에이전트 Lab - 4

04강 :What Is the Agent Tool Use Design Pattern?

가장 중요한 아이디어/사실:

1. LLM의 한계와 도구 사용의 필요성: 대규모 언어 모델(LLM)은 그 자체로 콘텐츠 생성에 매우 효과적이지만, 사용자의 요청을 완료하려면 외부 도구가 필요한 경우가 많습니다. 도구 사용 디자인 패턴은 LLM이 이러한 외부 도구와 상호작용할 수 있도록 합니다.

• 도구 사용의 이점 및 활용 사례:실시간 정보 접근: 계산기, API, 애플리케이션 기능 등과 연동하여 실시간 데이터를 활용할 수 있습니다. (예: 고객 데이터베이스에서 여행 포인트 및 선호도 검색, CRM 시스템에서 여행 예약 정보 확인)
• 워크플로우 자동화: 단일 도구뿐만 아니라 여러 도구를 조합하여 복잡한 워크플로우를 자동화할 수 있습니다. (예: 이메일 분석, 관련 지식 기반 정보 검색, 고객 서비스 담당자에게 이메일 전달)
• 자연어 이해 기반 도구 선택: LLM의 자연어 이해 능력을 활용하여 사용자의 요청을 해석하고 적절한 도구를 선택할 수 있습니다. 개발자가 모든 가능한 시나리오에 대한 로직을 직접 정의할 필요가 없습니다.
• 구현 고려 사항:보안: AI 에이전트에게 필요한 종류의 접근 권한만 부여해야 합니다.
• 오류 처리: 에이전트가 사용하는 외부 서비스가 항상 실행되지 않을 수 있으므로 오류 처리가 중요합니다.
• Semantic Kernel에서의 도구 사용 예시:플러그인 활용: 목적지 목록을 제공하는 플러그인('get destinations')과 특정 목적지의 이용 가능 여부를 확인하는 플러그인('get availability')을 사용하는 예시가 제시됩니다.
• 함수 동작 설정: 에이전트가 함수의 호출 여부를 스스로 결정하는 'auto' 설정과 특정 상황에서 반드시 함수를 호출하도록 하는 'required' 설정이 있습니다.
• 자연어 이해와 도구 사용의 결합: 사용자의 "유럽 이외의 이용 가능한 여행 목적지가 있나요?"와 같은 자연어 질문에 대해 LLM이 질문을 해석하고 'get availability' 함수를 호출하여 데이터를 가져온 후, 그 결과를 바탕으로 유럽 외 지역의 이용 가능한 목적지를 응답하는 과정을 시연합니다.
• "the large language model has all of that within it sort of base training data": LLM은 기본 학습 데이터에 유럽 국가에 대한 정보를 포함하고 있으므로, 어떤 목적지가 유럽에 속하는지를 개발자가 별도로 정의할 필요 없이 자연어 이해를 통해 이를 처리할 수 있다는 점을 강조합니다.
• "this really shows you the power of using agents large language models to both use their abilities to interpret natural language have that sort of interaction as well as tool calling to give it the specific data based on that interpretation and that plan from the agent itself": 이는 AI 에이전트가 LLM의 자연어 해석 능력과 도구 호출 기능을 결합하여, 사용자의 요청을 이해하고 외부 데이터를 활용하여 정확한 응답을 생성하는 강력한 방식을 보여줍니다.
•  

결론:

도구 사용 디자인 패턴은 AI 에이전트의 역량을 확장하고 실제 세계와의 상호작용을 가능하게 하는 핵심적인 방법입니다. LLM의 자연어 이해 능력과 외부 도구의 데이터 및 기능을 결합함으로써, 에이전트는 더욱 복잡하고 실용적인 작업을 수행할 수 있습니다. 이 패턴을 구현할 때는 보안 및 오류 처리와 같은 중요한 측면을 고려해야 합니다.