| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | ||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 |
| 25 | 26 | 27 | 28 | 29 | 30 | 31 |
- SQL
- 릿코드
- Ai
- 네이버
- 오블완
- 포트원
- 프로그래머스
- 토스페이
- 결제취소
- clova
- 간편결제
- 백준
- ETF
- 결제
- 카카오페이
- certbot
- OCR
- sw
- 웹훅
- OpenCV
- 코딩테스트
- 깃허브
- 코딩
- 티스토리챌린지
- 데이터베이스 #백엔드 #데이터
- supabase
- it #응집도 #결합도 #소프트웨어
- Node
- openai
- 정렬
- Today
- Total
목록openai (2)
싱싱미역상태
OCR 성능 향상을 위한 이미지 전처리 API 처리 시간 개선 여행
문제OCR 성능을 위해서 이미지를 전처리하는 API를 사용하는 것에 있어서 소요 시간이 많이 발생하고 있습니다.따라서 추가적인 문제로 사용자들이 오래 기다리는 문제가 발생했습니다. 이미지 전처리, OCR, LLM을 많이 사용하고 있기 때문에 LLM 자체에서도 소요되는 시간이 상당히 많이 걸리고 있습니다.(LLM만 30 ~ 40초) 그리고 전처리와 OCR의 경우를 합치면 생각보다 10초에서 많은 경우는 15초에서 20초까지도 나왔던 적이 있었습니다. 그래서 LLM 자체에서는 프롬프트를 사용하고 이미지 또는 컨텍스트가 들어가서 조절할 수 없는 부분이라고 생각했고, 이미지 처리 시간을 줄여보기로 생각했습니다.목표현재 사진 2장을 기준으로 50번 테스트한 결과 평균적으로 2.5950초가 측정되었습니다. 사진 4..
OpenAI Vision Token 개수 측정
완성된 코드회사에서 OpenAI Vision을 사용할 때 어느정도의 토큰이 나오는지 계산이 필요했습니다. 따라서 Vision의 토큰 개수 구하는 방법을 알아보겠습니다.Vision먼저 vision의 토큰 개수 구하는 방법은 공식문서에 나와있습니다.요약하면, Vision의 토큰 개수는 이미지의 크기와 디테일 옵션에 따라서 결정이 됩니다.detail optionVision을 요청할 때는 아래와 같이 요청이 가능합니다. 주목할 부분은 messages.content.image_url.detail입니다. from openai import OpenAIclient = OpenAI()response = client.chat.completions.create( model="gpt-4o-mini", messages=[ ..