לתת אמון במכונה

צילום: ברק דנין

זה לא סוד שכאשר מדברים אתנו על AI, MACHINE LEARNING, GAN ו NLP רובנו מקבלים סחרחורת. גם אני. לכן, התפלאתי מאד למצוא את ההרצאה של שגית סיגל בכנס שמדבר על ממשק משתמש. איך ממשק משתמש קשור ללמידת מכונה? מה, המכונה היא משתמש?

אז זהו – שהיא לא. אבל יש מישהו שכן.

עולם ה Machine learning  מתחלק בעצם לשניים – יש את המכונה הלומדת, ויש את האדם המלמד. ואדם, כידוע, זקוק לממשק נוח. במיוחד אחד כזה שיושב מול עשרות (אם לא מאות) מאמרים ביום ומנסה ללמד מכונה איזה מאמר הוא המאמר הנכון.

אז מה היא בעצם ההגדרה של Machine learning  ?
הבינה המלאכותית היא ההנחה שמכונות יכולות לעשות דברים שאנשים עושים, יותר מהר ויותר טוב. ב Machine learning   אנחנו מלמדים את המכונה איך לעשות משהו, ואז בהמשך היא לומדת איך להתקדם בעצמה. לדוגמא – את יכולה ללמד את המכונה איך נראה חתול, להראות לה ידנית על אלפי תמונות מה זה חתול, ובהמשך היא תוכל לזהות גם חתולים שהיא לא ראתה בתוך אלפי התמונות שהוצגו לה. ממש כמו שמלמדים ילד.
ההנחה היא שאם אדם לא יכול לעשות את זה, המכונה לא תוכל. כלומר, המכונה לא יכולה להחליף אותנו, לא בשלב הנוכחי.

אבל אדם יודע להרוג, לדוגמא...
המכונה יודעת מה שמלמדים אותה. מי שאחראי על המכונה הוא האדם שמלמד אותה. אם זה בנאדם אחד או למידת המונים – כפי שאנחנו מאמנים את זיהוי התמונות של גוגל באמצעות הקפצ'ה "אני לא רובוט" או כפי שמשתמשי טוויטר "אימנו" את הבוטית של מייקרוסופט, טאי, להיות גזענית.
המכונה לא תלמד לבד להיות גזענית.
כמובן שלמי שמלמד את הבוטים הרבה פעמים יש הטיה בייצור – לדוגמא במחקר רפואי, כאשר צוות החוקרים מורכב מגברים לבנים בני שלושים, הם יכולים להתעלם לדוגמא מנשים שחורות.

איך עובדת למידת מכונה?
אנחנו מלמדים את המכונה כמו שמלמדים ילדים. את מלמדת בתוך תנאי מסויים. כמו שאת מלמדת את הילד ש"אסור לרוץ לכביש". לא אומרים לו שאסור לרוץ בכלל, אלא שאסור לרוץ לכביש. אח"כ יש יציאה מחניון, וגם שם אסור לרוץ. הילד לומד כל מיני מקרים של אפשרויות כביש וסכנת דריסה עד שהוא מבין לבד להמשך איפה מסוכן ואיפה לא. הוא כבר מסוגל להסיק את המסקנה. וככה עובדת גם למידת המכונה.

בואי ניקח דוגמא למידת מכונה להבדיל בין כלב לחתול. לוקחים מאגר של מאות תמונות ואומרים למכונה רק זה כלב, זה חתול. או כן כלב או לא כלב. לצורך העניין.
Machine learning מאד טוב בלאתר תבניות, ולפי זה לייצר סוג של תחזית. אחרי שהיא הבינה מה המבנה של כלב, היא טובה מאד בלזהות אם התמונה הבאה שהיא תראה היא כלב או לא.

ההתמחות שלך והמוצר שיצרת לו את ה UX הוא מוצר מתחום ה NLP. את יכולה להסביר על זה קצת?

NLP זה Natural Language Processing כלומר- עיבוד שפה אנושית. אנחנו מנסים ללמד את המכונה להבין את השפה הטבעית, את הכוונות ואת ההקשרים.
לדוגמא – אם אני אומרת גלי התקשרה אלי, המכונה צריכה להבין קודם כל שגלי זאת נקבה. וזה עוד החלק הקל כי פה אנחנו מדברים על חוקי שפה, שהם יחסית מובנים. אבל יש דברים מורכבים יותר.

היום יש Sweat shops  של כוח עבודה זול שעושה רק אימון של מכונות ל Machine learning. אבל מה קורה כאשר יש צורך בללמד את המכונה משהו מקצועי ולא רק זיהוי של זנבות חתולים?

כלומר, אם אנחנו מנסים ללמד מכונה לזהות מאמרים על שימוש בסמים, ואז אנחנו רואים מאמר על הצגת ילדים חדשה ויש שם אזכור ליובל המבולבל והעובדה שלמרות שהואשם בצריכת סמים הוא מופיע – האם זו כתבה על שימוש בסמים? לא. זוהי כתבה על הצגת ילדים. אנחנו צריכים לאמן את המכונות שלנו להבין את ההקשר הרחב יותר של העניין.
וזה מה שהחברה הקודמת שעבדתי בה, Thomson Reuters, עשתה.

כלומר, האנשים שבאו לאמן את המכונה אצלנו כבר לא היה רק Data scientists אלא אנשי מקצוע מתחומים מובילים, ורמת השחיקה הייתה גדולה מאד.

ופה נכנס האלמנט של ה UX
כן.
תראי, התהליך של Machine learning הוא תהליך "כואב" של כיוונון ודיוק. איך שואלים את השאלה הנכונה כדי ללמד את המכונה מה שצריך? לזה הוספנו את הממשק שהיה לא נוח וחייב את ה"מורים" גם לכתוב את השאלה בשפת קוד, מה שיצר המון בעיות ושגיאות. ככה שבשלב הזה יצרנו דבר ראשון ממשק עורך נוח ונגיש שבו הכניסו רק מילים. אחר כך גם היינו צריכים לשפר את הקצב של יצירת האלגוריתמים ואת זה עשינו בעזרת כפתורים ייחודיים, ואחר כך גם היינו צריכים להבין את הצרכים של המאמנים ולתכנן את המערכת כך שתהיה יותר פשוטה לעבודה ושתאפשר להם כלים נוחים יותר לביצוע של משימות כמו לדוגמא "שמירה לאחר כך" או עיון במסמכים הבאים שיש להם לעשות. הדברים האלה שיפרו משמעותית את הביצועים והיכולת.

אז איך UX מתחבר בכלל לתחום של AI (בינה מלאכותית)?
אנשים לא מאמינים במכונות. אם אני אשאל אותך אם את מוכנה לנסוע ברכב אוטונומי, את תגידי לי כן. אם אני אשאל אותך אם תשלחי את הילדים שלך ברכב כזה, את כבר לא תסכימי. כל פעם שיש כשל של מכונה מסויימת האמון אובד וקשה מאד להחזיר אותו. גם במוצרים יחסית ותיקים האמון הוא מוגבל ולכן יש צורך ליצור ממשקים של אוגמנטציה, של שילוב, כלומר, ליצור תהליך של רכישת אמון שבתוכו נכנס איש ממשק המשתמש.
אנחנו נכנסים בתפר שבין איפה שהשליטה של המכונה מסתיימת והשליטה שלנו מתחילה. הממשק הטוב גם מאפשר לאדם – ליומן טיצ'ר, להיות מדוייק יותר ולאמן את המכונה טוב יותר.
זה בסופו של דבר עניין של אמון – רכישת האמון של האדם במכונה.
הבנאדם צריך ללמד את המכונה ולתקשר עם המכונה, וה UX נכנסים בתוך המקום של התקשורת הזו. המכונה צריכה ללמוד ממנו.

תוכלו לשמוע את ההרצאה של שגית בכנס UXILIVE 2019 שיתקיים בפברואר (הנחה לתעשיינים מוטמעת בקישור)