データ前処理の手法と Fredit Flow: よくある質問
データクリーニングの基本
データ前処理の手法とは何ですか?
データ前処理の手法とは、機械学習のためにデータセットを準備する工程です。まずクリーニングを行い、そのあとカテゴリのエンコードや数値のスケーリングなどが続きます。先に分割してください。各工程は学習用だけで当てはめます。「data pre processing」と書いても、意味は同じです。
データクリーニングとデータラングリングの違いは何ですか?
データクリーニングは、誤った型、余分な空白、重複した行、欠損値など、データセットの誤りを見つけて直すことです。データラングリングは、データの形を変えたり組み合わせたりする、より広い作業で、たとえば表の結合、列の分割、ピボットです。ラングリングのほうが範囲は広くなります。
欠損値はどう扱えばよいですか?
唯一の正解はありません。行を削除する、固定値で埋める、中央値のような代表的な値で埋める、空欄を残して印を付ける、のいずれかです。選択は列と、あなたが答えたい問いによって変わります。決めた内容は書き留めてください。
重複した行はどうやって見つけますか?
重複の判定には、たとえば正規化したメールアドレスのような明確なキーが必要です。完全一致の重複では、空白や大文字小文字だけが違う行を見逃してしまうからです。スクリプトは各キーの最初の行を残し、残りを別のファイルに書き出せます。残りは確認してください。
Fredit Flow の使い方
freditcode.com は Fredit Flow の公式サイトですか?
はい、freditcode.com は Fredit Flow の公式サイトで、ここにあるインストーラーは元のビルドです。まだコード署名されていません。SHA-256 チェックサムを公開されているマニフェストと比べ、質問はアプリ内の Send feedback ボタンから送ってください。
Fredit Flow は完成済みのクリーニング製品ですか?
いいえ。Fredit Flow は、乱雑なデータセット向けの完成済み CSV クリーニングツールではありません。あなた自身の Python コマンドを使って、Python のクリーニングスクリプトを作成・実行・編集するエージェントで、ルールはあなたが承認したものです。
OCR で作ったテキストファイルの整理にも役立ちますか?
はい、ご自身のテキストファイルであれば役立ちます。エージェントは read_file でサンプルを読み、あなたが指摘した繰り返し出る誤りを直すスクリプトを書き、新しいファイルを保存します。ocr ツールで表のスクリーンショットからテキストを読み取ることもできます。出力は手作業で確認してください。
結果はいつも正しいのですか?
いいえ。エージェントはあなたが承認したルールを適用するだけで、値が正しいかどうかは判断できません。自動クリーニングで完全なものはありません。結果に頼る前に、diff を読み、コピーでスクリプトをテストし、整えた結果を手作業で抜き取り確認してください。
モデル、プライバシー、ダウンロード
ファイルは PC の外に出ますか?
それはあなたの選択しだいです。クラウドモデルでは、エージェントが読むファイルのテキストを含むプロンプトがそのプロバイダーに送られます。PC 上でローカルに動くモデルなら、何もマシンの外に出ないので、個人情報を含むデータにはこちらを選んでください。
最初の小さな作業はどう始めればよいですか?
ご自身の小さなファイル 1 つが、始めるのにちょうどよい大きさです。Plan only モードで始めてエージェントが挙げる手順を読み、それから Ask first に切り替えて、ファイルのコピーに対してスクリプトを実行します。Plan only では何も実行されません。
ダウンロードボタンは自分を追跡しますか?
ボタンは、ダウンロード数を数えるために、時刻、IP アドレス、ブラウザーのユーザーエージェント、ある場合は参照元を記録し、そのあとインストーラーへリダイレクトします。statinside.com の訪問カウンターがページの閲覧を記録します。詳細はプライバシーのページをご覧ください。