सफ़ाई से पहले देखें
कोई भी नियम लिखे जाने से पहले read_file और Shell हर कॉलम के असली मान दिखाते हैं। अजीब मान वहीं छिपे होते हैं।
मशीन लर्निंग में डेटा सफ़ाई लिखित नियमों पर आकर टिकती है: कौन से मान ठीक करने हैं, कौन सी पंक्तियाँ हटानी हैं और कौन सी खाली जगहों पर निशान लगाना है। Fredit Flow उन नियमों को Python स्क्रिप्ट में बदलता है, उसे चलाता है, नई फ़ाइल सहेजता है और diff दिखाता है। हर चरण की समीक्षा आप करते हैं।
कोई भी नियम लिखे जाने से पहले read_file और Shell हर कॉलम के असली मान दिखाते हैं। अजीब मान वहीं छिपे होते हैं।
write_file Python सफ़ाई स्क्रिप्ट सहेजता है, इसलिए अगले एक्सपोर्ट पर नई हाथ की एडिटिंग के बजाय वही नियम लागू होते हैं।
edit_file स्क्रिप्ट बदलता है और diff दिखाता है; Ask first मोड में आप उसे लागू होने से पहले स्वीकार या अस्वीकार करते हैं।
किसी भी स्केलिंग या माध्यिका से भरने को फ़िट करने से पहले डेटा को प्रशिक्षण और परीक्षण हिस्सों में बाँटें, फिर प्रशिक्षण हिस्से पर जो गणना की उसे परीक्षण हिस्से पर लागू करें। आँकड़े केवल प्रशिक्षण हिस्से से आते हैं।
./ratings.csvनमूना पढ़ा गया,, ./ratings.csv6 मिलान./prepare.pyसहेजा गयाyour Python command prepare.pyएग्ज़िट कोड 0./train_clean.csvखाली जगहें भरी गईं./test_clean.csvखाली जगहें भरी गईंमशीन लर्निंग में डेटा प्रीप्रोसेसिंग सफ़ाई के बाद श्रेणियों को एन्कोड करने और संख्याओं को स्केल करने जैसे चरण जोड़ती है, और हर आँकड़ा केवल प्रशिक्षण हिस्से से आना चाहिए। मान लीजिए आप ratings.csv की गायब उम्र को माध्यिका से भरना चाहते हैं। Fredit Flow खाली फ़ील्ड वाली पंक्तियाँ ढूँढने के लिए grep, prepare.py सहेजने के लिए write_file और उसे आपकी अपनी Python कमांड से चलाने के लिए Shell इस्तेमाल करता है। स्क्रिप्ट train_clean.csv और test_clean.csv लिखती है, जिसमें माध्यिका प्रशिक्षण की पंक्तियों पर निकाली जाती है और फिर परीक्षण की पंक्तियों पर लागू होती है। आपकी ratings.csv अछूती रहती है। Ask first मोड में कार्ड लिखने से पहले रुकता है, इसलिए आप diff पढ़ते हैं, स्क्रिप्ट द्वारा छापी गई पंक्ति-गिनतियों की तुलना करते हैं और हर नई फ़ाइल की 5 पंक्तियों की नमूना जाँच करते हैं। बेतरतीब असली डेटा साफ़ करने की पाइपलाइन इसी एक स्क्रिप्ट से शुरू हो सकती है।
असंभव मान, जैसे ऋणात्मक उम्र या ऋणात्मक कीमत, बड़ी फ़ाइलों में छिपे रहते हैं। अगर आप ML के लिए डेटा साफ़ करने में ज़्यादातर समय लगा रहे हैं, तो हर नियम एक बार लिखें और स्क्रिप्ट को उसे लागू करने दें। गायब मान, दोहराव और आउटलायर सँभालने के लिए हर एक का अलग नियम चाहिए, जो स्क्रिप्ट चलने से पहले लिखा गया हो। Fredit Flow कॉलम के नाम जाँचने के लिए read_file, स्क्रिप्ट में सीमा-जाँच जोड़ने के लिए edit_file और उसे चलाने के लिए Shell इस्तेमाल करता है, और एग्ज़िट कोड तथा सीमा के बाहर की पंक्तियों की गिनती बताता है। जो पंक्तियाँ असफल होती हैं वे समीक्षा फ़ाइल में जाती हैं। कुछ भी नहीं हटाया जाता। Plan only मोड इन जाँचों को पहले सूचीबद्ध करता है। कोई नियम बदलने से पहले समीक्षा फ़ाइल को पंक्ति-दर-पंक्ति पढ़ें।
Fredit Flow कोई होस्टेड सेवा या दूसरे सॉफ़्टवेयर का प्लगइन नहीं है। यह केवल आपकी अपनी फ़ाइलों, आपके पीसी और उन सर्वरों के लिए है जिनका उपयोग करने की आपको अनुमति है, इसलिए काम को उसी डेटा तक सीमित रखें जो आपका अपना हो या जिसे प्रोसेस करने का आपको अधिकार हो। नतीजों की समीक्षा आप करते हैं। यहाँ कुछ भी यह वादा नहीं करता कि कोड या सफ़ाई के नियम सही हैं।