블로그

Jul 29, 2023

OpenAI, '기업' 출시

작성자: Lucas Mearian 선임 기자, Computerworld | OpenAI는 오늘 기업이 모델 훈련 방법과 기간을 결정할 수 있는 생성적 AI 서비스 버전인 ChatGPT Enterprise를 공개했습니다.

루카스 미리안(Lucas Mearian)

컴퓨터월드 선임기자 |

OpenAI는 오늘 기업이 모델 훈련 방법과 해당 목적에 사용되는 기업 데이터를 저장할 수 있는 기간을 결정할 수 있는 생성 AI 서비스 버전인 ChatGPT Enterprise를 공개했습니다.

새로운 ChatGPT 서비스는 또한 저장 데이터(AES-256) 및 전송 중 데이터(TLS 1.2+)에 대한 암호화와 기업 인증을 위한 SAML(Security Assertion Markup Language) Single Sign-On을 사용하여 향상된 보안 및 개인정보 보호를 제공합니다.

OpenAI는 또한 ChatGPT가 기반으로 하고 훈련하는 LLM(대형 언어 모델)인 GPT-4에 연결할 수 있는 조직의 대역폭을 열었다고 밝혔습니다. 회사는 LLM에 대한 "무제한 고속" 액세스와 이전보다 4배 더 긴 32k 토큰 컨텍스트 창 입력 및 후속 조치를 제공할 계획입니다. (1개의 토큰은 대략 4자, 즉 0.75단어 정도입니다. 참고로 OpenAI 기준으로 셰익스피어 작품 전집은 약 90만 단어, 즉 120만 단어 정도 됩니다.)

OpenAI는 블로그 게시물에서 “이는 모든 작업을 돕고, 회사 데이터를 보호하며, 조직에 맞게 맞춤화되는 업무용 AI 보조자를 향한 또 다른 단계입니다.”라고 밝혔습니다. “ChatGPT Enterprise에서 비즈니스 데이터를 소유하고 제어합니다. 우리는 귀하의 비즈니스 데이터나 대화를 학습하지 않으며, 우리 모델은 귀하의 사용법을 학습하지 않습니다. ChatGPT Enterprise는 모든 사용량 한도를 제거하고 최대 2배 더 빠른 성능을 제공합니다."

OpenAI는 또한 사용자가 텍스트가 생성하는 토큰 수를 확인할 수 있는 "토큰나이저 도구"를 제공합니다.

샌프란시스코에 본사를 둔 이 스타트업은 또한 ChatGPT의 엔터프라이즈 버전에는 대량 회원 관리, 도메인 확인, 이전에 Code Interpreter로 알려진 사용 통찰력을 위한 분석 대시보드 플러그인을 갖춘 새로운 관리 콘솔이 있다고 밝혔습니다.

"이 기능을 사용하면 기술 팀과 비기술 팀 모두 시장 데이터를 처리하는 금융 연구원, 설문 조사 결과를 분석하는 마케터, ETL 스크립트를 디버깅하는 데이터 과학자(ETL은 추출, 변환 및 로드를 나타냄) 등의 정보를 몇 초 만에 분석할 수 있습니다."

ChatGPT 및 기타 생성 AI 모델은 자연어와 코드를 이해하도록 훈련되었으며 사용자 입력이나 쿼리에 대한 응답으로 텍스트 출력을 제공할 수 있습니다. GPT에 대한 입력을 '프롬프트'라고도 합니다. 프롬프트 디자인은 기본적으로 사용자가 GPT 모델을 "프로그래밍"하는 방법으로, 일반적으로 작업을 성공적으로 완료하는 방법에 대한 지침이나 몇 가지 예를 제공합니다. 이 프로세스를 프롬프트 엔지니어링이라고 합니다.

GPT는 콘텐츠 또는 코드 생성, 요약, 대화, 창의적 글쓰기 등을 포함한 다양한 작업에 사용할 수 있습니다.

OpenAI의 GPT-4와 같은 대부분의 LLM은 다음 단어 또는 콘텐츠 예측 엔진으로 사전 훈련되어 있습니다. 즉, 대부분의 기업에서 이를 즉시 사용하는 방식입니다. LLM 기반 챗봇이 오류를 많이 발생시키는 반면, 사전 훈련된 LLM은 최소한 다른 작업의 출발점으로 사용할 수 있는 대부분 정확하고 설득력 있는 콘텐츠를 생성하는 데 상대적으로 잘 작동합니다.

그러나 많은 업계에서는 특정 전문 용어를 이해하고 사용자에게 맞춤화된 콘텐츠를 생성하는 더욱 맞춤화된 LLM이 필요합니다. 예를 들어 의료 산업의 LLM은 전자 건강 기록(EHR)을 처리 및 해석하고, 치료법을 제안하거나 의사 메모 또는 음성 녹음을 기반으로 환자 건강 관리 요약을 작성해야 할 수 있습니다. 금융 서비스 산업에 맞춰 조정된 LLM은 수익 보고를 요약하고, 회의 기록을 작성하고, 사기 분석을 수행하여 소비자를 보호할 수 있습니다.

OpenAI 고객은 ChatGPT의 지식을 이미 사용하고 있는 애플리케이션에 연결하여 회사의 데이터로 안전하게 확장할 수 있지만 대변인에 따르면 해당 기능은 아직 개발 중입니다. 따라서 가격에 포함된 OpenAI는 고객이 OpenAI를 조직을 위한 완전한 맞춤형 솔루션으로 확장해야 하는 경우 API를 사용할 수 있는 무료 크레딧을 제공하고 있습니다.