[광고] 검색 증강 생성(RAG)이 지속 가능한 4가지 이유💡

2024년 2분기 생성형 AI 트렌드를 보내드려요.

2024. 6. 27.

안녕하세요! Skelter Letter 입니다.😊

2024년 2분기에는 오픈AI, 구글 I/O, MS Build, 애플 WWDC 등의 굵직한 개발자 행사들이 연달아 열리며 AI 기술의 미래를 엿볼 수 있었는데요. 주요 이슈들만 아주 간단하게 정리해보았습니다:

오픈AI는 GPT-4o를 발표했습니다. (이미 사용하고 계신 분들도 있으실 것 같은데요.) GPT-4o는 텍스트, 비전, 오디오를 통합한 멀티모달 AI로, 음성 기능은 실시간 대화가 가능한 수준으로 진화했습니다. 음성 기능은 원래도 제공했지만, 이제는 질문을 하면 AI가 실시간으로 답변을 제공할 수 있습니다. 다국어 성능도 크게 향상되어 한국어 처리 능력이 더욱 강화되었다고 합니다. GPT-4o의 놀라움이 가시기도 전에, 오픈AI는 최근 AI의 역량을 AGI(인공 일반 지능)로 끌어올릴 수 있는 다음 프론티어 모델을 훈련하기 시작했다고 발표했습니다.

구글은 '제미나이 라이브'와 '프로젝트 아스트라'를 발표했습니다. 제미나이 1.5 Pro의 비용을 절반으로 낮추고, 컨텍스트 윈도우를 2M까지 확장했습니다. 또한, '제미나이 1.5 Flash'는 AI가 안경을 통해 주변을 인식하고 대화하는 기능을 제공합니다. 안경에 달린 카메라와 스피커를 통해 AI와의 상호작용이 가능하다고 하네요.

마이크로소프트는 MS Build 행사에서 코파일럿을 팀 단위로 사용할 수 있게 하고, 생성형 AI를 PC에서 실행할 수 있는 '코파일럿+' PC를 공개했습니다. 개인뿐만 아니라 팀 단위의 협업에서도 강력한 도구로 사용되는 것으로 목표로 했습니다. 예를 들어, 팀원들이 함께 작업하는 문서나 프로젝트에서 AI가 실시간으로 도움을 줄 수 있습니다.

애플은 오픈AI와 손을 잡고 '애플 지능(Apple Intelligence)'이라는 이름으로 AI 생태계에 진입했습니다. 애플의 전략은 아이폰, 아이패드, 맥을 관통하는 개인 맞춤형 AI 비서를 제공하겠다는 건데요. 같은 맥락에서 사용자가 요청한 일정과 메시지 기반으로 응답할 수 있는 기능을 발표했습니다. 예를 들어, 사용자가 "내일 회의 일정 추가해줘"라고 하면, AI가 자동으로 사용자의 캘린더에 일정을 추가해줍니다.

(개발자 행사는 아니지만) 앤트로픽은 GPT-4o를 능가하는 Claude 3.5 Sonnet을 출시했습니다. 이 외에 AI 모델의 투명성을 높이는 연구도 주목받았습니다. 그동안 '블랙박스'로 여겨졌던 AI 모델의 내부 작동 방식을 이해하고 제어할 수 있게 된 것인데요. 마치 인간의 뇌를 MRI로 분석하듯이, AI의 뉴런 연결을 이해하고 조절하는 방식이라고 합니다. AI의 안전성과 성능을 크게 향상시킬 수 있는 길을 연 것으로 해석됩니다.

엔비디아는 격변의 AI 시대에서 그 어느 때 보다 중요한 역할을 맡고 있습니다. AI 모델을 구축하고 배포하는 데 필수적인 GPU를 공급하는 주인공 역할인데요. 엔비디아의 GPU H100은 700 테라플롭스의 연산 성능을 가지고 있어, AI 모델 훈련 시간을 크게 단축시킵니다. 예를 들어, H100을 10개 사용하면 AI 모델을 훈련하는 데 걸리는 시간이 4.76년에서 17.36일로 줄어듭니다. AI 모델 훈련이 필요한 많은 기업들이 엔비디아의 GPU를 통해 AI 성능을 극대화하고 효율도 높일 수 있어 수요가 높습니다.

한편, 최근 발표된 논문에서는 LLM(대형 언어 모델)의 오류를 "환각"이 아니라 "헛소리"라고 표현해야 한다고 주장합니다. 해당 논문은 AI가 정보를 무작위로 생성하는 특성을 더 정확히 반영하며, 사용자들이 AI의 출력물에 대해 경계심을 가질 수 있도록 하는 것을 목표로 하는데요. "환각"은 잘못된 정보 전달이 의도적이라는 뉘앙스를 줄 수 있지만, "헛소리"는 AI가 단순히 무작위로 정보를 생성한다는 점을 강조하고 있습니다.

2분기도 역시나 빅테크 기업들이 앞다퉈 AI 전략 업그레이드에 나서면서 서비스가 AI 중심으로 재편되는 흐름이 가속화되고 있습니다. 이렇게 톺아보니, AI가 다양한 분야에서 실질적인 가치를 창출하고 있음을 확실히 보여주고 있는 것 같네요. 앞으로의 변화가 더욱 기대되는 부분입니다! 🧐

[생성형 AI 101]

RAG가 지속 가능한 4가지 이유 (그리고 긴 컨텍스트 윈도우)
LLM, RAG, 그리고 AI 에이전트 :: 요즘 기술 3가지 총 정리!
AI 에이전트의 성능은 'OO'을 얼마나 잘 하느냐에 따라 좌우됩니다.

[금융권 RAG 솔루션 도입 사례]

신한투자증권 X 스켈터랩스

[무료 다운로드]

2024년 생성형 AI 활용서 :: 교육 및 영업(고객 접점 확대) 외 4개 유스케이스

RAG(검색 증강 생성)가 지속 가능한 4가지 이유 💬

최근 긴 컨텍스트 윈도우(Large Context Windows)의 부상과 함께, 이 기술이 "RAG 킬러"가 될 수 있다는 의견까지 나오고 있습니다.

그러나 긴 컨텍스트 윈도우의 등장이 곧 검색 증강 생성(RAG)의 종말을 의미하지는 않습니다.

본질적으로, RAG와 Large Context Windows 모두 방대한 양의 데이터를 효율적으로 관리하고 해석하기 위해 필요한 정보를 선택적으로 집중하는 방법을 사용합니다.

그저 RAG가 엔터프라이즈 사용 사례에 더 적합하고 효율적일 뿐이죠.

📖 목차

• Large Context Windows, 사막에서 바늘 찾기?
• RAG의 엔터프라이즈 사용 사례
• RAG가 주는 신뢰성과 투명성
• RAG로 방점을 찍는 에이전트 기능
• 요약 그리고 결론

RAG가 대체 불가능한 이유 4가지 →

LLM의 넥스트 레벨, RAG 도입 실제 사례 :: 전략부터 적용까지 완벽 정리 💬

최근 인공지능 기술의 발전으로 인해 LLM, RAG, AI 에이전트 등 다양한 기술과 용어가 등장하고 있습니다. 각각의 기술이 혁신적이라는 것은 알고 있지만, 왜 이 모든 기술이 필요한지 이해하기 어려울 수 있는데요.🧐

"LLM과 RAG가 있는데 왜 AI 에이전트가 필요한가?"라는 질문에 답을 찾으며, 각 기술의 기초부터 차근차근 알아봅니다.

📖 목차

• LLM이란?
• RAG란?
• AI 에이전트란?
• 왜 LLM, RAG, AI 에이전트가 모두 필요한가요?
• 요약하자면

LLM, RAG, AI 에이전트 101 →

"AI 에이전트의 성능은 OO을 얼마나 잘 하느냐에 따라 좌우됩니다."

회사의 모든 정보를 꿰뚫고 있는 오래된 직원을 상상해보세요.

그 사람은 아주 똑똑하고 기억력도 뛰어나서, 언제 어디서 무슨 일이 있었는지 모든 세부 사항을 다 기억하고 있죠.

이제 그 사람이 항상 여러분 옆에서 모든 대화에 참여하고 있다고 생각해보세요.

정말 완벽한 개인 비서죠? 😯

이것이 바로 AI 에이전트의 비전입니다.

AI 에이전트가 어떻게 발전하고 있는지, 현재와 미래에 과연 어떤 역할을 할 수 있을지, 그리고 경쟁력 있는 AI 에이전트는 어떤 요소가 필요할 지에 대해 스켈터랩스 CTO 서종훈 님의 인터뷰 답변을 확인해보세요.
‍
📖 목차
• AI 에이전트의 현재 기술 수준(2024년 상반기 기준)
• AI 에이전트의 주요 활용 분야
• AI 에이전트가 '정규직'이 되기 위한 과제
• AI 에이전트의 핵심 경쟁력
• RAG 기술로 방점을 찍다 - 검색 잘 하는 AI 에이전트

AI 에이전트의 이유 있는 성장 →