יש מי שאומר שאין דבר כזה "פרסום רע", וכל עוד אתה עושה כותרות זה טוב לעסק

[BravoMan]

אני אישית לא בטוח:

כלכליסט - דף הבית - הודעת שגיאה

כלכליסט - ישראל מתחברת לכלכלה

www.calcalist.co.il

האמת, הסיבה היחידה ששמתי לב לכתבה הזו, היא כי למונייד הוא מקרה מאוד נדיר של מישהו שבא לפורום הזה, אמר שהולך לעשות מליונים מרעיון מהפכני, ואשכרה חזר לספר שיצאה לו חברה משמעותית בסוף.

 

[vinney]

אני לא מבין על מה המהומה. ניהול סיכונים זה עיקר העסק של חברות ביטוח, למה שהם לא ינסו כלים חדשניים כדי לשפר את המוצר?

שהלקוחות יחליטו אם ההצעה שהם מקבלים מקובלת עליהם או לא, הלקוחות יודעים הרבה יותר טוב אם הם משקרים או לא מכל AI.

 

[BismarkReborn]

תלוי מה עושים עם זה, אם אתה מסתכל על הספרות בתחום של אתיקה של AI אתה יכול למצוא המון טענות נגד אלגוריתמים מהסוג הזה. אני יכול לראות איך בתוספת האקלים הפוליטי בארה"ב יוצא מזה twitter shitstorm.

 

[d70]

האמת, הסיבה היחידה ששמתי לב לכתבה הזו, היא כי למונייד הוא מקרה מאוד נדיר של מישהו שבא לפורום הזה, אמר שהולך לעשות מליונים מרעיון מהפכני, ואשכרה חזר לספר שיצאה לו חברה משמעותית בסוף.

כנראה שהתוכנה עבדה יותר מידי טוב:
"ובפוסט בבלוג הודו(למונייד) שבינה מלאכותית "הציגה הטיות בקהילות שונות".
בתרגום לעברית: ה-AI עבדה יותר מדי טוב והציגה תוצאות אמת שלא מסתדרות עם תרבות הפולטיקלי קורקט.

 

[AnarchistPhilosopher]

כנראה שהתוכנה עבדה יותר מידי טוב:
"ובפוסט בבלוג הודו(למונייד) שבינה מלאכותית "הציגה הטיות בקהילות שונות".
בתרגום לעברית: ה-AI עבדה יותר מדי טוב והציגה תוצאות אמת שלא מסתדרות עם תרבות הפולטיקלי קורקט.

That AI is a cunt...

 

[vinney]

אני לא קורא את זה כך.

זה שAI יודעת רק מה שמלמדים אותה הרי זה לא סוד. ההטיות באות ממקורות מידע מוטים שמשמשים ל"לימוד". ההטיות האלה שונות ממקום למקום - בארץ תראה הטיות שונות לחלוטין ממה שתראה בארה"ב. הגזענות הקיצונית, למשל, לדעתי לא מאפיינת הרבה מדינות בעולם כמו שהיא מאפיינת את ארה"ב. פועל יוצא כשאתה מחפש "ילדים אפרואמריקאים" בגוגל אתה מקבל תמונות מעצר משטרה, ואני מניח שההטיות שגילו החבר'ה בלמונייד די דומות.

 

[BravoMan]

בחייך - אתה הרי יודע מצויין ששני אנשים שמכניסים את אותן המילים ב-google יקבלו תוצאות שונות לחלוטין בהתאם למידע שיש לגוגל עליהם.

אגב, לפי מה שאני רואה בזמן האחרון - רוב ה-"גזענות" כלפי שחורים עליה מתלוננים בארה"ב היא מומצאת, כמו הסיפור עם דרישת תעודה מזהה להצבעות.
בעוד שדווקא גזענות כלפי לבנים, לפחות מילולית, פורחת בלי מעצורים.

אבל אם ניקח את הכתבה הזו:

Oh dear... AI models used to flag hate speech online are, er, racist against black people

Tweets written in African-American English slang more likely to be considered offensive

www.theregister.com

הרי שאם מתעמקים בפרטים, רואים שהבעיה האמתית היא לא "AI גזען" אלא סטנדרטים כפולים שבני אדם בחרו לעצמם:
שחור בארה"ב יכול לנבל את הפה חופשי, וסולחים לו בגלל בצע עורו, אך אם לבן יגיד מילה אחת טיפה לא נכונה, הוא ישר מתויג כגזען \ פוב כלשהו, ועלול אף לאבד את פרנסתו.

ה-AI עובד טוב, כרגיל - הבעיה היא בני אדם!

 

[vinney]

בחייך - אתה הרי יודע מצויין ששני אנשים שמכניסים את אותן המילים ב-google יקבלו תוצאות שונות לחלוטין בהתאם למידע שיש לגוגל עליהם.

תקרא את המאמר שקישרתי אליו.

אגב, לפי מה שאני רואה בזמן האחרון - רוב ה-"גזענות" כלפי שחורים עליה מתלוננים בארה"ב היא מומצאת, כמו הסיפור עם דרישת תעודה מזהה להצבעות.
בעוד שדווקא גזענות כלפי לבנים, לפחות מילולית, פורחת בלי מעצורים.

אין לטענה הזאת שום אחיזה במציאות. אני יכול להסביר לך למה הדרישה לתעדה מזהה להצבעות מונעת מגזענות ומביאה לפסילה של מצביעים בני מיעוטים, אבל לא נראה לי שזה יעניין אותך. בתור גבר לבן שנראה סטרייט עוד לא יצא לי להתקל באפליה כלפי לבנים שאתה מרבה לקרוא עליה ברדיט כל כך. עמיתיי עם צבע עור קצת פחות בהיר משלי לעומת זאת נתקלו באפליות ישירות ועקיפות אפילו במקום העבודה שלי עצמי פה בקליפורניה הליברלית. רק אומר.

אבל אם ניקח את הכתבה הזו:

Oh dear... AI models used to flag hate speech online are, er, racist against black people

Tweets written in African-American English slang more likely to be considered offensive

www.theregister.com

הרי שאם מתעמקים בפרטים, רואים שהבעיה האמתית היא לא "AI גזען" אלא סטנדרטים כפולים שבני אדם בחרו לעצמם:
שחור בארה"ב יכול לנבל את הפה חופשי, וסולחים לו בגלל בצע עורו, אך אם לבן יגיד מילה אחת טיפה לא נכונה, הוא ישר מתויג כגזען \ פוב כלשהו, ועלול אף לאבד את פרנסתו.

כשאתה שומע ערסאוות מדבר ברחוב - האם זה גורם לך לחשוב שאתה יכול לדבר באותה צורה במשרד? שוב, רק אומר.

ה-AI עובד טוב, כרגיל - הבעיה היא בני אדם!

הבעיה היא אכן בני אדם. כמו שאמרתי, הAI זה בסך הכל תוכנת מחשב שעושה את מה שאמרו לה לעשות.

 

[d70]

הבעיה היא אכן בני אדם. כמו שאמרתי, הAI זה בסך הכל תוכנת מחשב שעושה את מה שאמרו לה לעשות.

העניין פה שהאינפוט בכלל לא היה תמונות - מדובר בהקלטות.
מחקרים טוענים שלא ניתן לקשור תכונות קול (שנובעות מהצורה הפיזית של הגרון וחלל הפה) אל קבוצות אתניות. לפיכך איך ניתן לטעון שהייתה הטיה
באינפוט של אימון ה AI ?

 

[vinney]

העניין פה שהאינפוט בכלל לא היה תמונות - מדובר בהקלטות.
מחקרים טוענים שלא ניתן לקשור תכונות קול (שנובעות מהצורה הפיזית של הגרון וחלל הפה) אל קבוצות אתניות. לפיכך איך ניתן לטעון שהייתה הטיה
באינפוט של אימון ה AI ?

קודם כל מדובר בהקלטות וידאו. כמו שכבר ציינו בשרשור, יש אנשים שלא מרגישים בנוח להקליט וידאו (אני למשל אחד מהם) ויראו סימני חרדה ועצבנות שיכולים להתפרש כנסיון להסתיר משהו. דבר שני, הבעיה בארה"ב, וזה מה שקשה לישראלים כדוגמא בראבו להבין, היא שיש קורלציה מובהקת בין מיעוטים אתניים לבין שכבות סוציאו אקונומיות נמוכות. בהתאם לכך, יש גם קורלציה מובהקת בין שכבות אתניות לבין אנשים שלא יכולים להגן על עצמם מפני חברות הביטוח.

כולנו יודעים שביטוחים קודם כל מנסים לדחות תביעות ורק אחרי זה, עם עורכי דין ובתי משפט, מתפשרים ומשלמים. לא צריך להיות גאון גדול כדי להבין ששיטת המצליח של חברות הביטוח תצליח על עניים (=שחורים/היספאניים, בארה"ב) הרבה יותר מלבנים בעלי עושר של דורות או מקצועות רווחיים. אלה יכולים לשכור עורכי דין ולזנבר את חברות הביטוח. אבל, אחרי זה כשאתה עושה סטטיסטיקה של "רמאויות" על סמך תביעות שנדחו בהצלחה - נחש לאן תהייה הסטטיסטיקה הזאת מוטית? ונחש על סמך אילו נתונים תאמן את הAI שלך? אתן לך ניחוש אחד.

 

[BravoMan]

אין לטענה הזאת שום אחיזה במציאות. אני יכול להסביר לך למה הדרישה לתעדה מזהה להצבעות מונעת מגזענות ומביאה לפסילה של מצביעים בני מיעוטים, אבל לא נראה לי שזה יעניין אותך.

עוד אביר לבן שיוצא להגנת השחורים המסכנים...

לא בטוח מה יותר גזעני - היחס שאתה מתלונן עליו, או אנשים כמוך בארה"ב שמדמיינים את המיעוטים האלה כחלשים, רק כדי שיהיה להם משהו להלחם למענו...

 

[vinney]

עוד אביר לבן שיוצא להגנת השחורים המסכנים...

לא בטוח מה יותר גזעני - היחס שאתה מתלונן עליו, או אנשים כמוך בארה"ב שמדמיינים את המיעוטים האלה כחלשים, רק כדי שיהיה להם משהו להלחם למענו...

כשאתה יורד לפסים אישיים זה סימן טוב שירדת מהפסים העובדתיים.

 

[BravoMan]

אבל לא נראה לי שזה יעניין אותך

This you?

 

[vinney]

האנגלית שלך לא משהו. עדיף שתשאל את מה שרצית בעברית.

מה ניסית לשאול?

 

[מחפשת עבודה17]

לי זה מזכיר משהו שקראתי עליו לאחרונה בכל מיני קבוצות פייסבוק לחיפוש עבודה - שיש חברות שמשתמשות ב AI כדי לבצע ראיון ראשוני למועמדים במקום שמגייסת או הר"צ ישקיעו מזמנם לסינון הזה. חלק גדול מהשיחות האלו מוקלטות, ויש חברות שפשוט משתמשות בהקלטה כדי שהמגייסת תוכל לצפות בה בזמן שמתאים לה, אבל בהחלט יש חברות שמשתמשות ב AI לניתוח ראשוני, ויש סיכוי שראיונות "לא טובים"מבחינת ה AI בכלל לא יזכו לצפיה על ידי עין אנושית.

מעבר לנושא האתיקה שביסמרק כתב עליו, יש פה עוד נושא שקשור לנוחות של אנשים מול מצלמה - יש כאלו שמרגישים חוסר נוחות מעצם המעמד, מעצם הצילום, או מעצם השיחה עם מחשב. במצב כזה, סימנים של עצבנות יכולים לפגוע בראיון עבודה, ממש כמו שהם יכולים לפגוע באמינות של בדיקת אמינות של חברת הביטוח.

 

[Haim_Gds]

מעבר לנושא האתיקה שביסמרק כתב עליו, יש פה עוד נושא שקשור לנוחות של אנשים מול מצלמה - יש כאלו שמרגישים חוסר נוחות מעצם המעמד, מעצם הצילום, או מעצם השיחה עם מחשב. במצב כזה, סימנים של עצבנות יכולים לפגוע בראיון עבודה, ממש כמו שהם יכולים לפגוע באמינות של בדיקת אמינות של חברת הביטוח.

נראה לי כי למי שאינו יכול לתקשר בשיחת ווידאו כיום (שנה+ אחרי הקורונה....) יהיה קשה לעבוד בתחום שלנו כרגע.
אני יכול לתת אנאלוגיה מלפני 30+ שנה. ראיון העבודה שלי התקיים ב Open space (מקום העבודה הראשון שלי עם זה...) גם כדי לבדוק שאוכל לעבוד בצורה הזו, זה נשמע מצחיק היום אבל בזמנו העבודה בחלל הכמעט פתוח לא הייתה נוחה/אפשרית לחלק מהמהנדסים שהכרתי.

 

[מחפשת עבודה17]

אני לא מדברת על ראיון בוידאו (זום ודומיו) אלא העובדה שמחשב מראיין אותך ולא בן אדם. זו חוויה שרובנו לא עברנו, ועבור לא מעט אנשים זו חוויה מוזרה ואפילו נשמעת מאוד מנוכרת.

 

[BravoMan]

הייתי מוסיף גם, שיש הבדל בין שיחה ו\או ראיון בזום או כל תוכנת תקשורת אחרת, לבין ראיון פנים מול פנים שבנוסף מצולם.
מעולם לא עברתי כזה, אבל הדבר הראשון שעולה לי בראש כשאני חושב על זה, הוא חדר חקירות.

דווקא AI מראיין במקום בן אדם נשמע לי מעניין, ויש לי תחושה שלא מעט אנשים בתחום שלנו ינסו לנצל את ההזדמנות במחשבה שהם יכולים לתמרן את האלגוריתם.

למעשה, ראיתי ווידאו ב-youtube שמאגד עצות איך לעבור ראיון עבודה למשרת פיתוח, ובסוף הם הוסיפו קטע על עריכת קורות חיים בסטייל של SEO כי הם חושדים שיש סינון ראשוני ע"י תוכנה מבוסס מילות מפתח.