문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
기간 7 시간
코스 개요
텍스트 생성에서 타입된 의사결정으로
- 의사결정 모델이 반환하는 내용
- System one 의사결정과 추론 LLM의 차이
- 제한된 의사결정의 비용 및 지연 시간 프로필
오픈 웨이트 의사결정 모델 지형도
- AWS Labs의 Strands Decider 2B
- JEV 및 GEV 오픈 웨이트 패밀리
- Pplx-Decider, Liquid D1 및 Clef
- 라이선스 및 배포 방식의 차이점
의사결정 모델의 내부 구조
- 언어 모델링 헤드가 없는 LLM 토르소
- 후보 옵션에 대한 포인터 헤드의 스코어링
- 신뢰 점수의 출처
첫 번째 의사결정 실행하기
- CPU 및 소비자용 GPU에서의 로컬 설정
- 질문 및 옵션 집합 표현 방법
- 단일 패스에서 여러 질문하기
- 임계값 및 폴백 동작
의사결정 품질 평가
- JevBench 및 의사결정 벤치마크
- 정확도와 캘리브레이션의 비교
- Brier score 및 신뢰도의 안정성
- 의사결정 모델이 부적합한 작업 유형
요건
- 대형 언어 모델(LLM) 및 프롬프트 기반 애플리케이션에 대한 기본 지식이 필요합니다.
- 명령줄(Command Line) 및 Python 스크립트에 익숙해야 합니다.
- 기계 학습 교육 경험은 요구되지 않습니다.
대상 고객
- 에이전트 워크플로를 위해 의사결정 모델을 평가하는 AI 엔지니어
- LLM 호출을 제한된 의사결정(bounded decisions)으로 대체하는 소프트웨어 개발자
- 에이전트 아키텍처를 설계하는 솔루션 및 플랫폼 아키텍트
- 의사결정 모델 옵션을 평가하는 기술 프로덕트 매니저