정리하기 전에 먼저 보기
read_file과 Shell은 어떤 규칙을 쓰기 전에 각 열의 실제 값을 보여줘요. 이상한 값은 바로 거기에 숨어 있어요.
머신러닝 데이터 정리는 글로 쓴 규칙으로 귀결돼요. 어떤 값을 고치고, 어떤 행을 버리고, 어떤 빈칸을 표시할지 정하는 거예요. Fredit Flow는 그 규칙을 Python 스크립트로 만들어 실행하고, 새 파일을 저장하고, diff를 보여줘요. 각 단계를 검토하는 것은 여러분이에요.
read_file과 Shell은 어떤 규칙을 쓰기 전에 각 열의 실제 값을 보여줘요. 이상한 값은 바로 거기에 숨어 있어요.
write_file이 Python 정리 스크립트를 저장하므로, 다음 내보내기 파일에도 새로운 수작업 대신 같은 규칙이 적용돼요.
edit_file은 스크립트를 바꾸고 diff를 보여줘요. Ask first 모드에서는 적용되기 전에 수락하거나 거부해요.
스케일링이나 중앙값 채우기를 맞추기 전에 데이터를 학습용과 테스트용으로 나누고, 학습용에서 계산한 값을 테스트용에 적용하세요. 통계는 학습용에서만 가져와요.
./ratings.csv샘플 읽음,, ./ratings.csv6건 일치./prepare.py저장됨your Python command prepare.py종료 코드 0./train_clean.csv빈칸 채움./test_clean.csv빈칸 채움머신러닝의 데이터 전처리는 정리 뒤에 범주 인코딩과 숫자 스케일링 같은 단계를 더하며, 모든 통계는 학습용에서만 가져와야 해요. ratings.csv에서 누락된 나이를 중앙값으로 채우고 싶다고 해요. Fredit Flow는 grep으로 빈 필드가 있는 행을 찾고, write_file로 prepare.py를 저장하고, Shell로 내 Python 명령을 써서 실행해요. 스크립트는 train_clean.csv와 test_clean.csv를 쓰며, 중앙값은 학습용 행에서 계산한 뒤 테스트용 행에 적용돼요. ratings.csv는 건드리지 않아요. Ask first 모드에서는 쓰기 전에 카드가 멈추므로 diff를 읽고, 스크립트가 출력하는 행 수를 비교하고, 새 파일마다 5행을 무작위로 확인해요. 지저분한 실제 데이터를 정리하는 파이프라인도 이런 스크립트 하나에서 시작할 수 있어요.
음수 나이나 음수 가격 같은 불가능한 값은 큰 파일 속에 숨어 있어요. ML용 데이터 정리에 대부분의 시간을 쓰고 있다면, 각 규칙을 한 번만 써 두고 스크립트가 적용하게 하세요. 누락된 값, 중복, 이상치를 다루려면 각각 별도의 규칙이 필요하고, 스크립트를 실행하기 전에 적어 두어야 해요. Fredit Flow는 read_file로 열 이름을 확인하고, edit_file로 스크립트에 범위 검사를 추가하고, Shell로 실행해서 종료 코드와 범위를 벗어난 행의 수를 알려줘요. 실패한 행은 검토용 파일로 가요. 지워지는 것은 없어요. Plan only 모드는 이런 검사를 먼저 나열해요. 규칙을 바꾸기 전에 검토용 파일을 한 줄씩 읽으세요.
Fredit Flow는 호스팅 서비스도, 다른 소프트웨어용 플러그인도 아니에요. 내 파일, 내 PC, 사용이 허가된 서버를 위한 것이므로 작업은 내가 가진 데이터나 처리할 권리가 있는 데이터로 한정하세요. 결과는 여러분이 검토해요. 코드나 정리 규칙이 올바르다고 약속하는 내용은 여기 어디에도 없어요.