포트폴리오 관리에 쓸 모델 고르기

Codeless Pilot은 API 엔드포인트를 통해 모델과 통신해요. 선택지는 3가지예요. 고른 모델에 따라 에이전트가 처리할 수 있는 일과 프롬프트가 전송되는 곳이 달라지므로, 실제 내보내기 파일을 불러오기 전에 중요해요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

클라우드 제공업체는 긴 파일과 어려운 로직에 잘 맞아요. 에이전트가 읽은 파일 텍스트를 포함한 프롬프트가 표준 API 엔드포인트를 통해 그 제공업체로 가고, 제공업체가 따로 요금을 받을 수도 있어요. API 키는 내 PC에 있어요. 먼저 샘플 데이터로 시작하세요.

내 PC의 모델

로컬에서 돌아가는 모델은 집에 두고 싶은 내보내기 파일에 잘 맞아요. 기기 밖으로 나가는 것은 없어요. 품질은 불러온 모델과 하드웨어에 달려 있고, 작은 모델에는 더 작은 단계가 필요할 수 있으니 한 번에 변경 하나씩 요청하고 모든 diff를 읽으세요.

내장 모델

내장 모델은 아직 엔드포인트도 로컬 모델도 없을 때 써 볼 만한 선택지예요. 먼저 테스트해 보세요. 개인정보 보호 페이지를 읽고 COINA, COINB 같은 샘플 데이터로 시도해 본 다음, 데이터가 어디로 가는지 납득한 뒤에 실제 내보내기 파일을 보내세요.

Test로 연결 확인하기

Test 버튼은 엔드포인트가 응답하는지 확인하고 응답 시간과 모델의 컨텍스트 윈도우를 보여 줘요. 그 윈도우를 보면 긴 내보내기 파일이 한 번의 요청에 얼마나 들어가는지 알 수 있어요. 변경할 때마다 눌러 보세요. 실패하면 멈추세요.

작업에 맞는 모델 고르기

크기는 작업에 맞추세요. 큰 모델은 서로 다른 형식의 내보내기 파일 3개를 하나의 표로 합치는 것 같은 리팩터링이나 복잡한 로직에 알맞고, 작은 모델은 열 이름 바꾸기 같은 작은 수정이면 충분해요. 어려운 단계가 하나뿐이라면 run_on_model가 그 단계만 더 큰 모델에 보내요.

모델마다 품질이 달라요. 모든 diff를 검토하고, 익숙해질 때까지는 Ask first를 켜 두고, 합계를 명세서와 비교하세요. 자신 있게 들리는 답변에도 틀린 숫자가 섞여 있을 수 있어요.