📘 Day 3: AI Agents – Generative AI Intensive with Google & Kaggle

🧠 개요: AI Agents란 무엇인가?

AI 에이전트는 단순히 정적인 응답을 생성하는 모델이 아닌, 목표 달성을 위해 관찰하고 추론하며 도구를 사용하는 자율적 또는 준자율적 시스템입니다. 이들은 다음의 주요 구성 요소를 바탕으로 작동합니다:

• LLM 모델 (예: Gemini): 추론과 사고의 중심.
• 도구 및 확장 기능: 외부 세계와의 상호작용을 위한 API 호출, 함수 실행, 데이터 저장소 접근.
• 오케스트레이션 레이어: 추론과 행동의 순서를 제어 (예: React, Chain of Thought 등 사용).

“AI 에이전트는 사용자의 목표를 이해하고 이를 달성하기 위해 도구를 동적으로 사용하는 응용 프로그램입니다.”

---

📄 Whitepaper 주요 내용 요약

1. 📘 입문 백서: AI Agents 기초

• 에이전트의 정의: 단순한 챗봇을 넘어, 자율적 행동과 문제 해결 능력을 갖춘 시스템.
• 핵심 구성 요소:
  • 모델: 중심 사고 엔진
  • 도구(툴): API, 함수, 데이터 저장소
  • 오케스트레이션 프레임워크: React, Chain of Thought
• 기능 예시: 함수 호출, 클라이언트 측 실행, 데이터 기반 응답 생성

2. 📙 고급 백서: AgentOps 및 멀티 에이전트 시스템

• AgentOps:
  • 배포 및 운영의 실무적 고려 사항
  • 목표 달성률, 행동 경로, 최종 응답, 사용자 피드백 기반 평가 지표
• 멀티 에이전트 시스템:
  • 계층적(Hierarchical), 협업(Collaborative) 방식
  • 대표 예: Agentic RAG (Retrieval-augmented Generation)
• Enterprise 응용:
  • Co-scientist, Vert.x AgentSpace
  • Agent 신뢰성 향상을 위한 계약 기반 설계

---

🔍 실전 사례 소개

📘 Notebook LM (Stephen)

“당신의 문서에 대해 전문가처럼 대화하는 AI”

• 사용자가 업로드한 문서 기반의 개인화된 질의응답
• 고급 출처 인용 기능 제공
• 주요 기능:
  • 오디오 개요 생성 (AI 팟캐스트 형식)
  • 브리핑 문서 / 학습 가이드 자동 생성
  • Mind Map 시각화 – 클릭 가능한 개념 노드로 탐색 및 질의 가능

🧭 Project Mariner (Jacqueline)

“브라우저를 조작할 수 있는 에이전트”

• 사용자가 지시하면 브라우저를 통해 인터넷을 탐색하고 실제 작업 수행
• 예: 웹사이트 클릭, 입력, 스크롤
• 크롬 확장 프로그램 형태로 제공

---

🧪 평가(Evaluation)와 안정성(Alignment)

🧠 평가 전략 (Patrick)

• 전통적 골든 데이터셋은 brittle하고 반복 비용이 큼
• 시나리오 기반 평가 도입:
  • 정답을 명시하기보다 결과의 달성 여부 중심으로 평가
  • 더 유연하고 모델 변화에 강건

🧑‍💼 사용자 통제와 창의성의 균형 (Stephen)

• 모델의 사실 기반 응답 제한과 창의적 제안 허용 간 균형 필요
• 모델 버전에 따라 시스템 프롬프트 튜닝 지속 필요

---

🔧 기술적 통찰

🔁 함수 호출 vs 확장 (Julia & Patrick)

• 함수(Function): 더 정밀한 제어 및 클라이언트-측 실행에 유리
• 확장(Extension): API와 직접 연결된 고속 상호작용

🛠 기능 향상 기법

• Few-shot 예제 포함된 프롬프트 작성
• 도구 호출 활성화 → 환각(hallucination) 감소
• 시뮬레이션 테스트와 피드백 루프 도입

---

🧰 플랫폼 및 표준

📦 MCP (Model Component Protocol) 통합 (Alan)

• API를 MCP 형식으로 래핑하여 에이전트가 자동 API 탐색 및 호출 가능
• 실시간 구성에서 사용성 및 보안 측면 고려 필요

🔒 보안 및 개인정보 보호

• 에이전트 사용 시 사용자 데이터 경로 및 API 통합 경로에 대한 완전한 소유 및 이해 필요
• Gemini API는 프롬프트 학습에 사용하지 않음 → 보안 강화

---

☕ 코드랩 요약: Gemini & LangGraph 기반 실습

1. Gemini + SQLite 함수 호출

• 자연어 질문 → Gemini → SQL 함수 자동 호출 → 응답
• 대화 흐름 분석 가능 (Function Calling Trace)
• 실시간 코드 생성 + 실행 가능 (예: Seaborn 그래프 생성)

2. LangGraph 기반 Barista Bot 만들기

• 다중 툴 + 멀티턴 대화 + 상태 기반 대화 흐름 설계
• 노드 및 엣지 구성 → 조건부 흐름 제어 및 주문 처리

---

📚 마무리 퀴즈 주요 문항 요약

1. AI 에이전트란?
   • 세계를 관찰하고 도구를 사용해 목표 달성하는 응용 프로그램
2. Orchestration Layer 역할?
   • 내부 추론과 계획 프로세스 관리
3. Data Store 목적?
   • 동적, 실시간 정보에 접근

---

🧭 정리 및 인사이트

• Generative AI Agents는 기존 LLM 기반 애플리케이션을 넘어서, 도구 기반 추론과 행동 실행을 통해 현실 세계와 상호작용하는 진화된 시스템입니다.
• 이러한 시스템은 단일 모델을 넘어서 멀티-에이전트 협업, 에이전트 평가 체계, 도구 활용 최적화 등의 기술이 어우러진 복잡한 구조로 발전하고 있습니다.
• Google의 다양한 사례와 실험적 프로젝트는 AI 에이전트의 미래 방향성과 현재 가능한 활용 지점을 명확히 제시해 주고 있습니다.