בינה מלאכותית הניתנת להבנה מתייחסת לשיטות וטכניקות ביישום טכנולוגית הבינה המלאכותית כך שתוצאות הפתרון יכולות להיות מובנות על ידי בני אדם.
בעוד שמערכות הבינה המלאכותיות הראשונות היו ניתנות לפרשנות קלה, בשנים האחרונות אנו עדים לעלייתן של מערכות מורכבות ובעלות אלגוריתמים "אטומים" המסוגלות לזהות ולהציע ידע חדש והמלצות מתאימות, אך לא יודעות להסביר מדוע דווקא זו ההמלצה.
ככל שאנו מערבים יותר בינה מלאכותית בחיי היומיום שלנו, כך אנו צריכים להיות מסוגלים לסמוך על ההחלטות שמקבלות מערכות אוטונומיות אלו.
שאלה מרכזית שעזרה לחדד את הצורך במערכות הניתנות להבנה היא, האם ביכולה של המערכת המבוססת על בינה מלאכותית להקל על בני האדם לתפוס, לזהות ולהבין בקלות את תהליך ההחלטה שלה?
מערכות הניתנות להבנה הן מערכות בהן מתרחשים תהליכים שאינם דורשים עיבוד אנושי נוסף. סט של כלים וטכניקות שמטרתם לעזור לנו, בני האדם, להבין ולפרש תחזיות ותהליכים שנעשו על ידי מכונות.
מערכות הניתנות להבנה מסבירות את כל שלבי התהליך: מה נעשה עד כה, מה נעשה כעת ומה יעשה בעתיד. המטרה - לתת פרשנות אנושית להתנהגות המודל ולחשוף את המידע עליו מתבססות ההחלטות.
למה זה חשוב?
ההבנה כיצד מערכות בינה מלאכותית מגיעות להחלטות שלהן היא קריטית, בייחוד כשהחלטות הנגזרות ממערכות אלו משפיעות בסופו של דבר על חיי בני האדם (כמו למשל בתחומי רפואה, חוק או הגנה).
בתחומים בהם אמון ושקיפות הם מרכיב חשוב לשיתוף פעולה, ככל שתהליך קבלת ההחלטות יראה פחות "קסום" ויותר מוסבר, משתמשים רבים ייטו לקבל, לסמוך ולאמץ את התהליך ואף לפעול על פיו.
היבט נוסף המחדד את חשיבות השימוש במערכות הניתנות להבנה הוא כל נושא האחריות והביקורת.
בסופו של יום, האחריות לקבלת ההחלטה היא מחוץ למערכת, מחוץ לטכנולוגיה. לא מספיק לבצע את מה שהמערכת המליצה עליו. למקבלי ההחלטות צריכה להיות אפשרות להסביר את המניעים ואת הגורמים שהובילו אותם.
גורם שלישי ואחרון הוא היכולת שלנו לזהות תוצאות לא מדויקות שמקורן יכול להיות בנתונים מוטים לדוגמה ולהתחקות אחר הדרך שעברה מערכת הבינה המלאכותית כדי להגיע לתוצאה, גם אם היא גרועה, ולתקן את הבעיות הבסיסיות כדי למנוע מהן לחזור על עצמן.
לסיום, אין ספק שתחום הבינה המלאכותית נע במהירות.
בעוד חמש שנים, התחום ייראה שונה מאוד ממה שהוא נראה כיום.
נראה שבינה מלאכותית הניתנת להבנה, תהפוך להיות כלי משמעותי יותר ויותר ולנו נותר להמתין בסבלנות ולראות, כיצד מערכות אלו ישפיעו על חיי היומיום שלנו.
מקורות:
https://enterprisersproject.com/article/2019/5/what-explainable-ai?page=1
https://arxiv.org/abs/1710.00794
https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
https://www.forbes.com/sites/robtoews/2020/10/12/the-next-generation-of-artificial-intelligence/?sh=1120c26a59eb