Community

개발자 99% 커뮤니티에서 수다 떨어요!

← Go back

Openai api 운영 질문

#ask
2개월 전
310
2

안녕하세요. 처음 글을 남겨봅니다 ^^

gpt를 연결한 웹서비스나 모바일서비스를 만들때 OpenAI api를 어떻게 운영하시나요?

사용자들의 자신의 openai api key를 발급 받아서 적용되게 하나요? 아니면 개발자가 감당하는 형태로 진행하시나요?

요즘에 ai가 연동된 서비스를 만들려고 생각하다보면 위와 같은 문제로 고민이 됩니다.

아직 사용자도 많지도 않으면 그럴 걱정은 너무 먼 미래라고 생각하지만 개발하면서 고려할 필요가 있을 것 같은데 여러분들은 어떻게 하시는지 의견을 듣고 싶어요 ^^

2 comments
wooine2 1개월 전
대부분 사용자 입장에서는 개발자가 아닌 경우가 많다 보니, OpenAI API를 활용한 서비스는 서비스 제공자가 요금을 부담하고, 그 비용을 서비스 가격에 포함시키는 방식이 일반적일 거 같네요.

예를 들어, 월 정액제나 크레딧 방식처럼 사용자는 별도 API 키 없이 바로 쓸 수 있는 구조가 접근성도 좋고 편하죠.

초기에는 프로모션이나 베타 형태로 무료로 제공하면서, 일정 수준까지는 개발자나 기관이 비용을 부담하고, 인기나 트래픽이 붙으면 유료화나 사용량 제한으로 전환하는 게 보통의 흐름 같아요.

운영하면서는 abuse 방지용으로 일일 사용량이나 토큰 수 제한도 걸어두고,
나중엔 고급 유저용으로 직접 OpenAI 키를 입력하는 기능도 선택적으로 열어줄 수 있고요.

짧게 요약하자면,
처음엔 내가 부담하고, 인기가 붙으면 요금제나 제한 도입 – 이게 현실적인 플로우 같아요.
borakim 2개월 전
강의에서 과제로 구현하실때는 일단 사용자의 openai api key로 넣어서 테스트 할 수 있게끔 하시더라고요. 아무래도 과제이고 비용 문제가...