אחד הסיכונים המשמעותיים בכל פרויקט למידת מכונה, הוא ההתמודדות על השגיאות של הבינה.
השגיאות נובעות מכמה סיבות, שתיים מרכזיות שבהן:
לעיתים שגיאות נובעות מהתנהגות לא מספיק טובה של הבינה. במקרה כזה צריך להחליט האם המודל או חלילה האלגוריתם לא מתאימים? האם הבעיה הוגדרה לא נכון? או אין התאמה בין הצורך העסקי לנתונים? אגב, יתכן והכל מתאים, ורק צריך לאמו עוד את המכונה.
אך לעיתים נתקלים במצב הפוך, ועל זה אני מבקשת להתעכב ב POST זה: בהתנהגות טובה מידי של הבינה.
יתכן ויש מי שיתמה, מה יש פה להתלונן על עבודה טובה מידי?
אז אסביר במה דברים אמורים.
כאשר אנחנו כאנשים מקבלים החלטות, החלטות אלו מושפעות מהטיות (biases) קוגניטיביות. כלומר, אנחנו לא מודעים לשגיאות המתקבלות עקב ההתייחסות שלנו לסובב (קניתי רכב אדם, פתאום כל הרכבים נראים לי אדומים), משגיאות הקשורות בהתייחסות שלנו להשפעת הסביבה (3 בחרו לפני אותה מנה במסעדה, מה אני אבחר?) ועוד. [לפירוט נוסף על יוריסטיקות והטיות >>].
כאשר המכונה לומדת כיצד נכון לנהוג, היא לא יודעת שמדובר בהטיות שגויות, והופכת את המזדמן לשיטתי ומומלץ. כך, אם לדוגמה אנחנו מציעים מערכת בינה לקבלת החלטות בתביעות ביטוח, ומסתבר שיש הטיה לטובת נשים, לרעת אנשים ממוצא מסוים או כל פרמטר אחר, המכונה תחשוב שזה חלק מההמלצה, ותהפוך הטיה זו לשיטתית.
אז מה תפקידנו?
תפקידנו לעמוד על המשמר:
ראשית, להכיר היטב את תיאוריית ההטיות, את המשמעות ואת היוריסטיקות בפועל.
ושנית, להפעיל מתודות של ניהול ידע.
בשלב התכנון המקדים, לאתר סיכונים הקשורים בהטיות אלו, ולהצביע עליהן, כדי לעזור לארגון להימנע מלכתחילה.
לסייע בבקרה השוטפת, הן של הסיכונים הקיימים, והן באיתור סיכונים נוספים הקשורים בהטיות.
וכאשר מתגלות הטיות שלא עלינו עליהם, כאנשי ניהול ידע, לסייע לעצור ולהפיק לקחים, ולשפר עוד יותר את מנגנון האיתור והבקרה.
המטרה: אפס הטיות. BYE BYE BIAS. להתחיל הכי טוב שאפשר, ללמוד ולהשתפר, ולהצטיין גם כאן.