후지이입니다. 이번 시간에는 Afforai에서 나만의 API 키를 사용하는 방법에 대해 알아보겠습니다.
유튜브에서 질문을 받았습니다.
'Bring Your Own Key via OpenRouter (GPT4, Claude, Sonnet, Gemini, etc.)'라고 되어 있는데, 설정 방법을 모르겠습니다. 설명해 주시면 감사하겠습니다.
일반적인 Afforai 사용에는 BYOK 설정이 필요하지 않습니다. 직접 설정하는 경우 아래 내용을 참고하시기 바랍니다.
이 글에서는 먼저 BYOK에 대해 설명합니다. 그리고,
- 안전한 설정 방법
- API를 너무 많이 사용해 파산하지 않는 비용 관리 방법
- Afforai에서 AI 모델을 커스터마이징하는 방법
를 순서대로 설명합니다.
Bring Your Own Key (BYOK)란?
먼저 Bring Your Own Key의 머리글자를 따서BYOK입니다.
Afforai의 채팅 기능은 무제한으로 사용할 수 있습니다.
페어유즈 정책이 있기 때문에 서비스를 망가뜨리는 사용은 금지될 수 있지만, 서비스 이용에 방해가 될 수 있습니다.
하지만 아포라이에서 지원하지 않는 AI 모델을 사용하고 싶다면 어떻게 해야 할까요?
그것이 BYOK입니다. 나만의 API 키를 사용하세요,라는 것이다.
암호화된 OpenRouter API 키를 사용하여 이용할 수 있습니다(API 키는 Afforai 운영진에서 열람할 수 없으니 안심하세요).
OpenRouter 등록부터 요금 결제까지 설명합니다.
먼저OpenRouter먼저 OpenRouter를 사용합니다. 쉽게 설명하면 다양한 AI 모델을 사용할 수 있는 플랫폼입니다. 무료, 유료로 다양한 AI 모델에 접근하고 실행할 수 있는 곳이라고 생각하시면 됩니다.
Afforai에서 BYOK를 사용하기 위해 이 OpenRouter를 사용합니다.
OpenRouter 계정이 없으신 분은 아래를 읽어주세요. 이미 알고 계신 분은 바로 건너뛰세요.
OpenRouter 계정을 만드는 방법 [등록 방법] [등록 방법
먼저공식 사이트로 이동합니다. 영어이지만, 이 절차에 따라 무료로 쉽게 계정을 만들 수 있습니다 ▼▼.
먼저 홈페이지에서 'SIgn In' 버튼을 누릅니다.
로그인 폼이 나옵니다. 아래에 Sign up(신규가입) 링크가 있습니다. 눌러주세요.
여기서 아래와 같은 양식이 나옵니다.
- Email address (이메일 주소 입력)
- Password(비밀번호는 자유롭게 정할 수 있음)
이 두 가지를 자유롭게 설정하세요. 설정이 완료되면 버튼을 누릅니다.
그러면 확인 메일이 발송됩니다.
메일 받은 편지함을 확인하면 OpenRouter에서 확인 메일이 도착해 있습니다.
만약 받지 못하셨다면 스팸메일 폴더에 들어가 있습니다. 거의 그럴 일은 없겠지만, 한 번 확인해 보시기 바랍니다.
수신된 메일의 버튼을 눌러주세요. 이것으로 등록이 완료됩니다.
OpenRouter 결제 방법【Stripe 사용 가능】결제 방법
다음 OpenRouter의 결제 방법입니다.
오른쪽 상단 메뉴에서 'Credits'를 누릅니다.
Credits 페이지로 이동합니다. 'Manage Credits'를 누릅니다.
영수증을 받고 싶다면 'Send me invoices'에 체크하면 된다.
'Use checkout page'를 누르면 결제 페이지로 이동해 결제를 할 수 있다.
개인 정보를 입력해야 합니다. 이 부분은 일본어로 입력할 수 있으므로 설명은 생략합니다.
Stripe에 신용카드를 저장한 경우, 아래와 같이 결제 옵션이 바로 표시됩니다.
'Use checkout page'에 체크하면 제대로 Stripe 결제 페이지에서 결제를 할 수 있습니다.
아래와 같이 Stripe로 결제할 수 있습니다. 해외 사이트에서 신용카드 사용이 불안한 분들도 안심할 수 있겠네요.
OpenRouter의 키(Keys) 관리하기
API 키를 관리하려면 OpenRouter 대시보드의 오른쪽 상단에서 'Keys'를 누릅니다.
키의 각 설정을 관리하고 과금 한도를 설정할 수 있습니다. 과다 사용을 방지하기 위해 설정을 잘 확인해야 한다.
Manege를 누르면 아래 이미지와 같이 Credit limit을 설정할 수 있습니다. 임의적이지만 설정을 권장합니다.
여기서 설정하면 이 API 키로 소비하는 크레딧($USD)이 이 금액에 도달하면 더 이상 사용할 수 없게 됩니다.
무제한으로 사용할 경우 아무것도 입력할 필요가 없습니다.
Activity에서 API 사용량도 모니터링할 수 있습니다.
키 사용 상황을 완벽하게 제어할 수 있습니다.
OpenRouter의 설정에서 AI 모델을 자유롭게 선택할 수 있습니다.
다시 한 번 말씀드리지만, Afforai에서 정상적으로 사용하려면 OpenRouter의 설정이 전혀 필요하지 않으며, BYOK 설정을 할 필요가 없습니다.
Afforai의 기본 AI 모델에 만족하지 못하는 사람들을 위한 옵션입니다.
Afforai에서 BYOK를 설정하는 방법
먼저 Afforai의 채팅을 엽니다.
메뉴의 'Custom'에서 AI 모델 설정을 누릅니다.
여기서 'Connect to OpenRouter' 버튼을 누릅니다.
OpenRouter 페이지로 이동합니다. 여기서 Authorize를 눌러주세요.
그러면 자동으로 Afforai로 돌아갑니다.
Afforai에서 BYOK 사용 시 주의 사항
- Afforai에서 BYOK를 사용하면 OpenRouter 계정에서 API 비용이 발생합니다.
- 지출을 억제하기 위해 지출 한도를 설정하는 것이 좋습니다.중요
말할 필요도 없이 BYOK를 사용하면 API 비용이 발생합니다. 제한을 두어 과용을 방지할 수 있습니다.
단, OpenRouter는 제 서비스가 아닙니다. 따라서 설정 및 사용법에 대해 저는 일절 관여하지 않으며 책임을 지지 않습니다. 자기 책임으로 부탁드립니다.
Afforai에서 BYOK를 커스터마이징하는 방법
OpenRouter 키를 연결하면 Afforai에서 OpenRouter를 커스터마이징할 수 있는 설정이 표시됩니다.
BYOK 모드
OpenRouter 키 사용 방법을 설정하는 옵션입니다. 다음과 같은 선택지가 제공됩니다.
- Disabled: 키는 Afforai에 연결된 채로 남아있지만 사용되지 않습니다.
- Afforai Pick: Afforai의 시스템과 동일한 모델을 사용합니다.
- Custom: 사용자가 직접 모델을 선택할 수 있습니다.
- OpenRouter의 기본값: 모델은 OpenRouter의 UI를 통해 선택됩니다. 이 옵션은 다른 작업에 대해 다른 모델을 선택할 수 없으므로 권장하지 않습니다.
멀티모달 모델
이 모델은 이미지를 사용하여 질문에 답한다(파일 주석에 사용됨).
쿼리 모델
이 모델은 질문에 답하는 역할을 한다(쿼리 시 사용).
JSON 모델
이 모델은 중간 처리에서 사용할 JSON 객체를 생성하는 역할을 한다.
Afforai에서 BYOK 설정하는 요령
Afforai는 자신의 API 키를 사용할 수 있습니다. 일반 사용자에게는 필요 없는 옵션이지만, BYOK에서 API 키를 연결하여, 평소에는 사용할 수 없는 AI 모델을 Afforai에서 사용할 수 있습니다.
설정하기 전에 몇 가지 조언이 있습니다. 아래는 Afforai의 조언입니다.
- 먼저 Afforai의 선택부터 시작하여 키의 사용법을 이해하자.
- 나만의 모델을 선택하려면 Query Model만 변경하고 나머지는 GPT-3.5를 그대로 사용하는 것을 추천합니다.
- 크게 커스터마이징하고 싶다면 각 모델에 대해 가능한 한 저렴한 옵션을 선택하고 점차적으로 모델의 성능을 높여 가성비가 좋은 모델을 찾아야 한다.
참고: 컨텍스트 창에 최소 16,000개 이상의 토큰이 있는 모델을 선택하는 것이 좋습니다. 이를 통해 AI의 성능을 유지할 수 있습니다.
16,000 토큰 미만의 모델을 선택하면 AI의 출력 품질이 저하되어 견적이 생성되지 않을 수 있습니다.
아포라이에서 BYOK를 사용하시는 분들께 도움이 되었으면 좋겠습니다.
최신 댓글