목록clova (1)

싱싱미역상태

OCR 성능 향상을 위한 이미지 전처리 API 처리 시간 개선 여행

문제OCR 성능을 위해서 이미지를 전처리하는 API를 사용하는 것에 있어서 소요 시간이 많이 발생하고 있습니다.따라서 추가적인 문제로 사용자들이 오래 기다리는 문제가 발생했습니다. 이미지 전처리, OCR, LLM을 많이 사용하고 있기 때문에 LLM 자체에서도 소요되는 시간이 상당히 많이 걸리고 있습니다.(LLM만 30 ~ 40초) 그리고 전처리와 OCR의 경우를 합치면 생각보다 10초에서 많은 경우는 15초에서 20초까지도 나왔던 적이 있었습니다. 그래서 LLM 자체에서는 프롬프트를 사용하고 이미지 또는 컨텍스트가 들어가서 조절할 수 없는 부분이라고 생각했고, 이미지 처리 시간을 줄여보기로 생각했습니다.목표현재 사진 2장을 기준으로 50번 테스트한 결과 평균적으로 2.5950초가 측정되었습니다. 사진 4..
SW 2024. 12. 12. 14:04
이전 Prev 1 Next 다음