(광고)[스켈터레터] AI 에이전트, 기업도 쓸 수 있나요? 🥹

2024년 1분기 생성형 AI 트렌드를 보내드려요.

2024. 3. 21.

안녕하세요! Skelter Letter 입니다.😊

2024년 1분기는 오픈AI, 구글, 그리고 앤트로픽 간의 AI 패권 경쟁이 그 어느 때보다도 뜨거웠어요.🔥

오픈AI가 지난 2월 발표한 ‘소라(Sora)’는 전 세계적으로 큰 주목을 받았어요.🐚 Sora는 자연어 프롬프트를 기반으로 고품질 영상을 생성할 수 있는 서비스인데요. Sora로 만든 영상 퀄리티가 실제 영상과 구별하기 어려울 정도로 높아, 많은 사람들을 놀라게 했습니다. 이 외에도 오픈AI는 챗GPT에 기억 능력을 추가하는 등 지속적으로 기술을 발전시키고 있어요.

엔트로픽은 지난 3월 5일 신규 모델 '클로드 3'를 발표했어요. 사용자는 비용과 성능을 고려하여, 하이쿠(Haiku), 소넷(Sonnet), 오푸스(Opus) 등 세 가지 모델 중에서 선택할 수 있는데요. 가장 가벼운 하이쿠 모델은 논문 한 편을 3초도 안 되는 시간에 읽을 수 있고요.🍃 소네트 모델은 기존의 클로드 2, 클로드 2.1보다 두 배 빠르면서도 성능이 더 향상되었다고 합니다.

구글은 지난 2월 8일 기존 AI챗봇 바드(Bard)를 최신 AI모델 '제미나이(Gemini)'로 명칭을 변경하며, 챗GPT-4와 경쟁하는 '제미나이 울트라'를 공개했습니다.👾 또한, 이번에 제한적으로 공개된 제미나이1.5 프로 데모 버전에는 개발자들이 최대 100만 토큰을 입력할 수 있는데, 이는 대략 1시간 분량의 동영상, 11시간 분량의 오디오, 혹은 70만 단어의 텍스트에 해당한다고해요.😲

한편, 오픈AI의 수장 샘 올트먼은 본인의 X(구 트위터)에 연신 기대를 불러 일으키는 게시글을 최근들어 계속 발행하고 있는데요.🤡 엊그제는 "this is the most interesting year in human history, except for all future years(올해는 미래를 제외하면 인류 역사상 가장 흥미로운 해)"라는 글을 올리며 GPT 5의 출시가 가까워졌음을 알리는 등 기대를 불러일으키는 게시글을 연이어 발행하고 있어요!

[RAG 도입 실제 사례, 궁금하시죠?]

RAG(검색 증강 생성)가 주목 받는 이유와 미래 동향
LLM의 넥스트 레벨, RAG 도입 실제 사례 :: 전략부터 적용까지 완벽 정리

[AI 에이전트, 기업도 쓸 수 있나요?]

다각도로 살펴보는 AI 에이전트

[무료 다운로드]

2024년 생성형 AI 활용서 :: 금융·보험·리걸(legal)·이커머스

RAG(검색 증강 생성)가 주목 받는 이유와 미래 동향 💬

2023년은 ChatGPT, Llama-2와 같은 기초적인 대형 언어 모델(LLM)들에 관한 해였다면, 2024년은 RAG (Retrieval Augmented Generation; 검색 증강 생성)의 해가 될 것이라고 다수의 필드 전문가들은 예측합니다.

RAG(검색 증강 생성)는 쉽게 말해 LLM이 생성을 할 때 올바르고 최신의 정보를 사용하도록 도와주는 도구인데요. RAG의 장점으로는 어떤 것들이 있을까요?

1️⃣ 답변을 생성하는 과정에서 외부 정보 활용이 가능하다는 점(최신성)

2️⃣ 사용자에게 더 맞춤화된 답변을 제공할 수 있다는 점(유연성 및 확장성)

3️⃣ 검증 가능한 출처를 기반으로 답변을 제공해 할루시네이션을 최소화할 수 있는 점(객관성)

또, RAG와 자주 거론되는 방식인 파인튜닝과는 과연 어떤 점이 다를까요? 기업의 효율적인 LLM 구축을 위해 RAG와 파인튜닝을 표로 비교해보았습니다!👍🏻

📖 목차

RAG 란?
RAG가 주목 받는 이유
RAG의 장점 3가지
RAG 작동 방식
RAG vs. Fine-tuning(파인튜닝)
RAG의 미래 동향

RAG vs. 파인튜닝 비교 표 보러가기

LLM의 넥스트 레벨, RAG 도입 실제 사례 :: 전략부터 적용까지 완벽 정리 💬

LLM이 세상에 등장하면서, 많은 기업들은 이 기술을 다양한 문제 해결의 열쇠로 여겼지만, 데이터의 시의성, 지식의 전문성, 그리고 출처의 투명성 등의 이유로 기업의 LLM 활용은 제한되었죠.

절망도 잠시. LLM이 가지고 있는 문제들을 해결하기 위해 빠르게 RAG를 활용한 기업들이 있는데요. 성공적으로 LLM을 기업에 구축한 실제 사례와 아무도 알려주지 않는 노하우, 지금 바로 알려드립니다!

📍KB국민카드

KB국민카드는 매일 200건이 넘는 방대한 이벤트 정보를 데이터베이스에 간편하게 그리고 지속적으로 갱신했습니다. 이후, RAG 기술을 활용해 이벤트 정보를 신속하게 검색하고, 챗봇을 통해 고객에게 정확한 정보를 실시간으로 제공하는 데 성공했는데요. KB국민카드가 RAG를 성공적으로 활용할 수 있었던 이유는 과연 무엇이었을까요?

📍A 언론사

A언론사는 RAG를 활용해 데이터베이스에 저장된 방대한 기사들을 LLM이 검증된 답변을 생성하는 데 사용할 수 있도록 했습니다. 이 과정에서 할루시네이션 현상을 효과적으로 줄이고, 답변의 퀄리티도 높일 수 있었는데요. RAG를 통해 답변의 퀄리티를 높일 수 있었던 방법은 바로 '소스 콘텐츠'였습니다. 답변의 품질을 좌우하는 소스 콘텐츠는 무엇이고, 어떻게 준비하면 좋을까요?

📖 목차

200건이 넘는 기업 문서, RAG로 빠르게 업데이트 하기
할루시네이션 현상, RAG로 최소화하기
다양한 질문 유형, RAG로 더 정확하게 식별하기

KB국민카드의 LLM 도입 노하우 엿보기

다각도로 살펴보는 AI 에이전트 💬

사실, AI 에이전트는 새로운 개념이 아닙니다.

Siri와 같은 음성 비서나 Alexa, 지니와 같은 스마트 스피커의 초기 형태는 이미 우리 생활 속에 AI 에이전트의 존재를 보여주고 있었죠. 이러한 서비스들은 간단한 명령을 통해 일상 생활을 편리하게 만들겠다는 비전을 가지고 출시됐으나, 초기에는 사용자의 의도를 완전히 파악하는데에 필요한 자연어 처리 기술의 한계로 완전한 성공을 이루지는 못했습니다.

그러나 생성형 AI의 등장으로 상황이 크게 변화했습니다. LLM 기반의 AI 에이전트가 주목받기 시작했죠.

그렇다면, 오늘날 AI 에이전트 기술은 어디까지 발전했을까요? 우리 기업도 AI 에이전트를 쓸 수 있을까요? (🔈결론부터 말씀드리자면, 네 가능합니다!)

📖 목차

AI 에이전트란?
2024 3월 기준, AI 에이전트는 어디까지 발전했나요?
AI Agent vs. ChatGPT
AI Agent를 기업이 쓸 수 있을까요?

AI 에이전트, 기업도 쓸 수 있나요? 👀

2024년 생성형 AI 활용서 :: 금융·보험·리걸(legal)·이커머스 💬

리걸·이커머스·금융·보험 시장에서 생성형 AI의 활용에 대해 고민 중이시라면, 성공적인 기업 사례를 참고하는 것이 좋은 시작점이 될 수 있습니다.

'2024 법률·금융·보험·이커머스 시장 전망 및 생성형 AI 활용서'에서는 LLM+RAG 기반 챗봇을 성공적으로 도입하여 비즈니스 효율성을 크게 향상시킨 기업들의 실제 사례들을 소개합니다. 또한, 생성형 AI를 어떻게 활용할 수 있는지에 대한 구체적인 방법을 제공합니다.

📖 목차