문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
LLM 애플리케이션 아키텍처 및 설계
- 어시스턴트, 코파일럿 및 워크플로우 자동화를 위한 일반적인 OpenAI 애플리케이션 패턴
- 비즈니스 요구사항, 신뢰성 및 사용자 경험에 맞는 올바른 아키텍처 선택
- 프로토타입 코드에서 유지 가능한 애플리케이션 설계로 전환
프롬프팅, 컨텍스트 및 구조화된 출력
- 예측 가능한 행동을 위해 시스템, 사용자 및 개발자 지시사항 구조화
- 일관성, 작업 제어 및 명확한 응답을 위한 프롬프트 설계
- 하위 애플리케이션 논리를 지원하기 위해 구조화된 출력 사용
- 컨텍스트 윈도우, 대화 상태 및 응답 품질 관리
도구 사용 및 워크플로우 오케스트레이션
- 외부 서비스와 함께 함수 호출 및 도구 활성화 워크플로우 사용
- 입출력 유효성 검사, 오류 처리 및 폴백 동작 적용
- 실제 비즈니스 작업을 위한 다단계 흐름 설계
검색 및 지식 기반화
- 검색 증강 생성이 적절한 시기 파악
- 유용한 검색을 위한 문서 준비 및 콘텐츠 청킹
- 관련 컨텍스트 검색 및 신뢰할 수 있는 출처에 기반한 응답 제공
평가, 가드레일 및 운영 준비就绪
- 품질 기준 정의 및 기대 결과에 대한 워크플로우 테스트
- 환각 현상 감소 및 안전하지 않거나 관련성이 없거나 모호한 요청 처리
- 사용량, 지연 시간, 토큰 소비 및 비용 모니터링
- 배포, 지원 및 반복 개선을 위한 애플리케이션 준비就绪
실습 구현 워크숍
- 프롬프팅, 구조화된 출력, 도구 사용 및 검색을 결합한 소규모 엔드투엔드 OpenAI 애플리케이션 구축
- 프로덕션 사용을 위한 설계 의사결정 검토, 일반적인 문제 및 실용적인 다음 단계
요건
- 대규모 언어 모델(LLM) 개념 및 API 기반 애플리케이션 개발에 대한 이해
- REST API, JSON, 프롬프트 기반 애플리케이션 워크플로우 작업 경험
- Python, JavaScript 또는 유사 언어에 대한 중간 수준 프로그래밍 경험
대상 독자
- LLM 기반 애플리케이션을 구축하는 소프트웨어 개발자
- OpenAI 기반 솔루션을 설계하는 AI 엔지니어 및 기술 리더
- 프로덕션 AI 기능을 담당하는 제품 팀 및 솔루션 아키텍트
7 시간