정리 스크립트에 쓸 모델 고르기

Fredit Flow는 표준 API 엔드포인트를 통해 클라우드 AI 제공업체에, PC에서 로컬로 실행되는 모델에, 또는 내장 모델에 연결돼요. 개인정보 보호 수준은 저마다 달라요. 선택에 따라 프롬프트 텍스트가 어디로 가는지가 정해지는데, 개인정보가 든 파일에서는 이 점이 중요해요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

클라우드 모델은 표준 API 엔드포인트를 통해 연결되며 더 큰 스크립트와 더 어려운 규칙에 알맞아요. 제공업체가 비용을 따로 청구할 수 있어요. 에이전트가 읽는 파일 텍스트를 포함한 프롬프트 텍스트가 그 제공업체로 가므로, 보낼 권리가 없다면 개인정보가 든 파일은 거기에 두지 마세요.

내 PC에서 로컬로 실행되는 모델

로컬 모델은 모든 프롬프트를 내 컴퓨터에만 둬요. PC 밖으로 나가는 것이 없어요. 그래서 이름, 이메일, 나이가 든 CSV 파일에 알맞은 선택이에요. 내 하드웨어에서 실행되고, 작은 로컬 모델은 스크립트를 더 부실하게 쓸 수 있으므로 diff 검토가 더욱 중요해요.

내장 모델

내장 모델은 클라우드 제공업체를 연결하거나 직접 모델을 실행하지 않고 Fredit Flow를 써 볼 수 있는 선택지예요. 먼저 샘플 파일로 시도해 보세요. 개인정보에는 컴퓨터 밖으로 아무것도 나가지 않는, PC에서 로컬로 실행되는 모델을 고르세요.

Test로 연결 확인하기

Test 버튼은 시작하기 전에 엔드포인트를 확인해요. 응답 시간과 컨텍스트 창을 보여주는데, 컨텍스트 창은 모델이 한 번의 요청으로 받을 수 있는 텍스트의 양, 예를 들어 긴 파일의 샘플과 내 스크립트를 합친 분량을 알려줘요. 새 모델은 반드시 테스트하세요.

작업 크기에 맞춰 모델 고르기

여러 표를 합치는 스크립트 같은 리팩터링과 복잡한 로직에는 더 큰 모델을, 열의 공백을 지우는 것 같은 작은 수정에는 더 작은 모델을 쓰세요. run_on_model 도구는 어려운 단계 하나만 더 큰 모델로 보내고 나머지는 평소 모델에 남겨요. 데이터를 보내기 전에 정하세요.

품질은 달라요. 수락하기 전에 diff를 읽으세요. Ask first는 무언가를 바꾸는 동작 전에 멈추고, 실제 종료 코드와 출력은 스크립트가 실행됐는지를 보여줄 뿐 결과가 올바른지를 보여주지는 않아요.