연락처 정보
 기간 7 시간

코스 개요

텍스트 생성에서 타입된 의사결정으로

  • 의사결정 모델이 반환하는 내용
  • System one 의사결정과 추론 LLM의 차이
  • 제한된 의사결정의 비용 및 지연 시간 프로필

오픈 웨이트 의사결정 모델 지형도

  • AWS Labs의 Strands Decider 2B
  • JEV 및 GEV 오픈 웨이트 패밀리
  • Pplx-Decider, Liquid D1 및 Clef
  • 라이선스 및 배포 방식의 차이점

의사결정 모델의 내부 구조

  • 언어 모델링 헤드가 없는 LLM 토르소
  • 후보 옵션에 대한 포인터 헤드의 스코어링
  • 신뢰 점수의 출처

첫 번째 의사결정 실행하기

  • CPU 및 소비자용 GPU에서의 로컬 설정
  • 질문 및 옵션 집합 표현 방법
  • 단일 패스에서 여러 질문하기
  • 임계값 및 폴백 동작

의사결정 품질 평가

  • JevBench 및 의사결정 벤치마크
  • 정확도와 캘리브레이션의 비교
  • Brier score 및 신뢰도의 안정성
  • 의사결정 모델이 부적합한 작업 유형

요건

  • 대형 언어 모델(LLM) 및 프롬프트 기반 애플리케이션에 대한 기본 지식이 필요합니다.
  • 명령줄(Command Line) 및 Python 스크립트에 익숙해야 합니다.
  • 기계 학습 교육 경험은 요구되지 않습니다.

대상 고객

  • 에이전트 워크플로를 위해 의사결정 모델을 평가하는 AI 엔지니어
  • LLM 호출을 제한된 의사결정(bounded decisions)으로 대체하는 소프트웨어 개발자
  • 에이전트 아키텍처를 설계하는 솔루션 및 플랫폼 아키텍트
  • 의사결정 모델 옵션을 평가하는 기술 프로덕트 매니저

참가자 수


참가자별 가격

예정된 코스

관련 카테고리