2023.11.06. OPEN AI DEVDAY 발표 내용 공유 및 Insight
발표내용 원본영상
1. OPEN AI DEVDAY 내용 요약
1.
GPT4 Turbo
a.
context length: supported up to 128 tokens of context, 300pages of book(프롬포트 입력량)
b.
more control
c.
better knowledge: september 2021 → april 2023
d.
new modalities: turbo with vision, STT-TTS
e.
customization: GPT-4 fine-tuning, experimental access program=custom models
f.
higher rate limits: copy right shield, We do not train on your data from the API, or Chat GPT Enterprise, ever.
2.
GPT4 Turbo Pricing: 1cent 1,000 input tokens, 3cent 1,000 output tokens / 2.75x cheaper
3.
GPT4 Turbo Speed
“we believe, that if people get better tools, they will do amazing things”
“다양한 시작점이 생기는 것”
GPTs(’GPT들’을 만들 수 있음을 의미함)
- GPT Builder: 일반인도 쉽게 GPT를 만들 수 있음
- 데이터(스크립트 등) 모아서 json으로 변환 후 자체 data GPTs에 입력하면 관련해서 질문에 답할 수 있는 나만의 GPT 제작 가능
- 예시) 더인벤션랩의 GPT, 김진영 대표님 강의 스크립트를 학습시킨 GPT 등
업그레이드 된 GPT: GPT-4 터보
•
23년 4월까지 학습한 데이터를 바탕으로 답변제공
•
최대 128,000개의 토큰지원으로 단일 프롬프트에 최대 300페이지 길이로 확장
◦
오픈AI의 경쟁사인 Anthropic이 개발한 챗봇 ‘클로드2’가 소설책 한 권을 통째로 입력할 수 있다는 점을 의식해 입력양을 대폭 늘린 것으로 풀이
•
이미지를 인식하는 Vision , 이미지를 그리는 달리(DALLE)-3 , 텍스트를 음성으로 바꾸는 TTS 기능 을 포함한 멀티모달 탑재
◦
비전과 TTS(Text To Speech)와 같은 새로운 기능이 포함되어 이미지를 이해하고 자연스러운 소리를 내는 오디오를 생성
▪
6개 음성 중 취향에 맞춰 선택해 사용할 수 있으며, 음성의 말투도 한층 인간에 가까워짐
◦
이미지를 Chat Completions API의 입력으로 받아들여 캡션 생성, 실제 이미지 세부 분석, 그림이 포함된 문서 읽기 등의 사용 사례를 지원
◦
챗GPT를 사용하면 ‘달리’를 통한 이미지 생성, 탐색, 데이터 분석, 문서 업로드 및 PDF 검색까지 모두 가능. 지금까지 PDF 검색을 허용하는 유일한 챗봇이 Anthropic의 클로드2 였는데, 오픈AI도 이 기능을 추가.
•
해당 버전은 개발자를 위한 미리보기로 먼저 제공
•
AI 모델 이용료 인하: GPT-4터보 사용료 입력 토큰당 0.01달러로 GPT - 4의 1/3의 수준, 출력 토큰은 0.03달러로 기존 대비 50% 저렴
◦
오픈 AI와 마이크로스포트와의 계약: 마이크로스프트 애저 가격정책이 인하되는 격 → 마이크로소프트 애저의 시장 점유율 확대로 이어짐. → 필행적으로 AWS, 구글 클라우드를 더 낮출 수 밖에 없음
▪
마이크로소프트는 오픈AI LLM을 애저 클라우드에서 외부 고객들에게 판매하고 있고 오픈AI 기반으로 개발한 코파일럿을 마이크로소프트365 등 간판 제품들에 통합
◦
경쟁사가 해야 할 숙제: 기술을 4.0 수준으로 업그레이드 + 비용 절감하는 기술까지 개발
◦
추가 리서치: 지배구조 → 어떻게 볼 문제; 자회사 - 모회사의 관계; 맞물려서 분석 설명 필요
◦
오픈AI의 맞춤형 AI 비서: GPT 빌더
•
누구나 쉽게 맞춤형 AI비서가 만들 수 있는 신기능 GPT 빌더 공개
•
직접 코딩 필요없이, GPT와의 대화만으로 자신에게 필요한 소프트웨어 개발가능
•
쉬운 AI 비서 구축을 위한 가이드를 제공하고, 몇 가지 스텝을 따라 하면 개인화된 챗봇 구축 가능
•
기업들은 이를 학습시켜 기업 내부에서만 사용하는 GPT 제작 가능
번외: Open AI의 스타트업 멘토 - 정보제공 및 액셀러레이터(특정분야의 멘토로 고도화 가능)
오픈AI의 앱 스토어: GPT 스토어
•
GPT Store라는 Application Store 구축 발표: 개인이나 기업이 만든 GPT를 이곳에서 구매 가능
◦
애플과 구글은 지난 20년간 ‘앱스토어’, ‘구글플레이’로 앱스토어에서 배포된 앱 내 결제시, 결제액의 30%의 수수료 수취하여 확실한 수익원 마련 → Open AI 역시 동일한 지향점
•
Open AI는 아직 수수료 공개하지 않음
•
ex) 전제1: 생로병사의 비밀 스크립트 파일 있음.
◦
order1: 생로병사의 비밀 GPT 만들어줘 → output: 개발자 없이 가능
◦
KBS홈페이지에 해당 GPT를 투입해서 게시: 기존 데이터 + 누적데이터에 맞춰서 GPT가 상담
◦
생로병사관련된 문의 GPT는 일반 병원, 건강보험센터, 건강상담센터에서 도입하기를 원하면 GPT스토어에서 삼 → 제작자들에게 수익 분배
GPTs가 나오기 전, GPT내, plug in(플러그인) 스토어가 있지만, 플러그인은 전문가 및 개발역량이 필요함. ex) 앱스토어는 2008년도에 나왔지만, 본격적으로 성장한 시기는 2014년과 매한가지(개발역량 및 도메인에 맞는 개발자가 필요함)
•
GPT를 연동하는 플러그인 생태계 / GPT API를 활용한 앱 생태계 → 전문영역 및 전문영역 도메인의 개발 영역 (like 넷플릭스)
GPTS는 user generative이기에, 이제는 자신의 콘텐츠가 있으면 누구나 나만의 GPT를 제작하는 것이 가능. 시기적으로 단기간내에 압축적 성장 가능 (like 유튜브)
2. DEVDAY update에 관한 의견 모음
GPTs가 나오면서 코팅 없이 몇 번의 텍스트 입력으로 누구나 ‘나만의 챗GPT’ 만들기 가능
그림을 그려주는 AI ‘달리(DALL.E)’가 적용되어 ‘로고’도 GPT4로 제작 가능
매경이코노미 독자가 “ ‘매경이코노미 제2235호 도우미’를 만들어줘”라고 명령하고 기사와 목차 등 자료를 투입하면 GPTs는 관련 질문에 답하는 AI 챗봇을 만듦
AI 에이전트는 인간이 명령을 내리면, AI가 맞춰서 실행해주는 시스템으로 챗봇보다 한 단계 더 발전한 개념
“표를 예약”할 때 AI 에이전트 도입 전, 후 case
Before: 사용자가 직접 여행 사이트에 접속해 일일이 항공권과 호텔 숙박권을 구매
After: 일정과 장소만 입력하면 AI 에이전트가 적당한 항공권, 호텔, 관광 코스 계획 가능
AI 에이전트 시장은 이미 오픈AI가 상당수 선점했기에, 판을 뒤집으려면 소프트웨어 기술로 더 혁신적인 서비스를 내놓을 필요가 있음
국내 대기업은 제조업, 통신 산업이 근간(ex, 삼성전자 - ‘가우스’, LG 유플러스 - ‘익시젠’, SK텔레콤 - ‘에이닷’)이기에 우리도 무작정 AI 에이전트 시장에 진입하기보다 챗GPT 등 기술이 다 차지하지 못하는 ‘틈새시장’을 노리는 등 전략 필요
‘GPT 스토어’에 담길 서비스와 상품은 GPTs로 한정되기에 앱마켓 대체하기 어려움
‘GPTs’와 GPTs를 만들기 위한 ‘데이터셋’이나 ‘생성 AI 모델’들이 담길 수 있으나 앱스토어나 구글의 안드이드마켓에 있는 수많은 앱이 그리로 옮겨가진 않을 것
이제는 자신의 콘텐츠가
‘GPTs’와 GPTs를 만들기 위한 ‘데이터셋’이나 ‘생성 AI 모델’들이 담길 수 있으나 앱스토어나 구글의 안드이드마켓에 있는 수많은 앱이 그리로 옮겨가진 않을 것
Google에서 딥마인드 활용한 Gemini(제미니/제미나이) 12월 발표 예정
•
GPT-4를 뛰어넘는 거대 언어 모델, 멀티모달
기존의 Plug in / API 활용한 스타트업은 어떻게 되는지?
•
GPT 기능을 간편하게 제공하는 스타트업(뤼튼, Ask Up) :
•
프롬포트 없이도 다양한 콘텐츠를 만들 수 있는 서비스 Promptless UI (특정 콘텐츠 생성을 지원하는, 법률 고소문을 만들어준다거나, 가정통신문을 제작해준다거나, 자기소개서를 작성해준다거나):
◦
especially, 로펌 회사가 생산한 문서 → <Json file로 변경해서 법률 전문 GPT 만든 SI업체(시스템구축)> :
◦
자체 컨텐츠가 있어야 함
캐릭터/자체 IP를 보유한 곳은 자체 챗봇을 만들 수 있음
•
마케팅 퍼널로 활용 가능: 법률업체에서 우영우 GPT 판권을 산 후 고객에게 흥미롭고 편하게 대화해보도록 한 후 실제 법률상담으로 연계 가능
•
특정 회사의 매뉴얼을 학습한 GPTs는 CS대체 가능
3. Insight: GPT 사용하는 기업의 경쟁력 / 차별성은 무엇인가
Contents ! +GPT은 이용한 기술은 BM일 수 있지만, 스케일업이 필수적
부가서비스, 검색창(팟빵), 이걸로 메인 BM이 되면 안 됨.
홍보물(마케팅 퍼널), 생산성 효율 높일 수 있음
→ One 소스에서 저작권을 가지고 있는 회사들이 아예 생성형 AI 제작 시 강력
→ 내 콘텐츠, 저작권 있으면 문제 없음
ex, Getty Image+엔비디아: 수억장의 사진 기반 생성형AI
IR미팅에서 확인해야하는 사항(sLLM 보유하고 있다면)
SMML(Small Large Language Model, 맟춤형 거대 언어 모델) = Responsible AI 또는 Private AI라고도 부름
참고 자료_SLLM 소개
참고 자료_스캐터랩 SLLM 사례
어떤 기반 모델(LLM)/아키텍처를 사용하는지 물어보기: MosaicML의 GPT4ALL’(7B), OpenAI GPT-3, Google PaLM, Meta LLAMA
구체적 구현 방법 확인
4. 기타
Gamma.app: 파워포인트, 웹사이트 제작
whimsical: 마인드맵 제작(인공지능과 아이디어 회의 하는 느낌)
HeyGen: 영상 자동통역 서비스
Gen2: 영상 제작 서비스