EP 01판단만 하는 AI
글을 쓰지 않고 판단만 돌려주는 TypeSafe의 System One 모델, 제브를 소개합니다. 첫 실측 341회 호출에서 응답 시간 중앙값은 0.52초, 총비용은 약 $0.03이었습니다. 저는 여기서 원칙 하나를 세웠습니다: 제안은 제브가 하고, 실행은 코드와 제가 합니다.
챕터장면이 바뀌는 시각
- 01글을 쓰지 않는 AITypeSafe의 판단 모델, 제브0:00
- 02제브가 돌려주는 것Choice, Noul, Score0:12
- 03빠르고, 입력에만 과금341번 호출에 약 $0.030:20
- 04쓰는 AI 옆에, 고르는 AI생성과 판단0:36
- 05제안은 제브, 실행은 코드와 사람모든 판단에 영수증을 남긴다0:45
- 0610,000+ 노트 볼트에서검색, 분류, 모델 검증은 다음 편부터1:02
글을 한 줄도 쓰지 않는 AI가 있습니다. 이 모델은 판단만 합니다.
TypeSafe가 9월 15일에 공개한 System One 판단 모델, 제브입니다. 문장을 만드는 대신, 판단 하나를 돌려줍니다.
선택지를 주면 선택지마다 확률을, 예 아니오를 물으면 예일 확률을, 기준을 주면 점수를 돌려줍니다.
첫 실측 341번 호출에서, 응답 시간 중앙값은 0.52초였습니다. 요금은 입력에만 붙습니다. 입력 100만 토큰당 4.2센트, 출력은 무료입니다.
그 341번 호출에 든 비용을 모두 합치면, 3센트 정도였습니다.
생성형 AI는 글과 코드를 새로 씁니다. 제브는 주어진 것 중에서 고르고, 그 판단을 확률과 점수로만 말합니다.
그래서 원칙을 하나 세웠습니다. 제브는 제안만 하고, 실행은 코드와 제가 합니다.
모든 호출은 영수증을 남깁니다. 보낸 질문, 선택지 순서를 뒤집어 다시 물은 결과, 결정과 이유, 그리고 제가 최종으로 고른 답까지 섀도 로그에 함께 적힙니다.
이 판단 모델을, 만 개가 넘는 노트가 있는 제 볼트에 붙였습니다. 검색, 분류, 모델 검증까지, 다음 편부터 실측 숫자로 보여 드립니다.
제안은 제브가, 실행은 제가. 커맨드스페이스, 구요한이었습니다.
영상 속 수치와 근거
- 판단 형태 세 가지: Choice는 주어진 선택지마다 확률, Noul은 예 아니오의 확률, Score는 기준에 따른 점수를 돌려줍니다.
- 341회 호출( 첫 실측): 응답 시간 중앙값 0.52초, 총비용 약 $0.03
- 요금은 입력 토큰에만 붙습니다: 입력 100만 토큰당 $0.042, 출력 무료
- 모든 호출은 영수증(보낸 질문, 선택지 순서를 뒤집은 두 결과, 결정과 이유)과, 제가 최종으로 고른 답을 적는 섀도 로그를 남깁니다.
한계: 341회는 하루치 첫 실측 표본이고, 응답 시간은 그날 제 환경에서 잰 값입니다.