בינה מלאכותית / גולם

[masorti]

ההצדקה שלי היא מאוד פשוטה..

תודיע לי כשתצליח לייצר אנדרואיד או מחשב המודעים לעצמם. לחילופין, תשלח לי מייל כשתבנה מחשב שמסוגל לחוות כאב.

 

[vizini]

השאלה היא איך אדע?

נניח שבניתי אנדרואיד או מחשב,שכאשר דוקרים אותו, הוא צועק בכאב. איך אדע אם הוא מסוגל באמת לחוות כאב? האם אפסול זאת על הסף רק מפני שאינו עשוי מחומר ביולוגי?

 

[masorti]

הרי אמרתי מלכתחילה...

שלא ניתן יהיה לבחון מי הוא מה, משום שכל בדיקה כמותית היא בהכרח של פרמטר פיזיולוגי - וניתן לייצר מלאכותית "הדמיה" לכל פרמטר. אין לי שום כוונה להיכנס איתך לויכוח על איך אדע מה מרגיש האנדרואיד. אני טוען שהוא לא יוכל לחוות כאב. חובת ההוכחה בכיוון ההפוך היא עליך.

 

[00000000000000000000]

שאלה:

האם אתה טוען בעצם שעינוי של אנדרואיד כזה, יחשב למוסרי?

 

[masorti]

פירוק מחשב לגורמים הוא מוסרי?

אם לדעתך לפרק מחשב ישן לחלקי חילוף הינו דבר מוסרי, אז גם "עינוי" אנדרואיד הוא מוסרי. אנדרואיד הינו לא יותר מאשר מחשב משוכלל, והוא אינו חש דבר.

 

[arifell]

אנדרואיד

כל האנדרואידים, כפי שאנו מכירים אותם כיום הם באמת לאהרבה יותר מאשר מחשב משוכלל. הספרות שהכי הרבה מתעסקת בדיונים מזן זה, ומתייחסת לאפשרות שלמחשבים או לאנדרואידים יכולה להיווצר מודעות עצמית וגם נשמה, היא באופן לא מפתיע במיוחד ספרות המדע הבדיוני, ספרות שמשום מה זוכה לזלזול בקרב הרבה אנשים 'משכילים'. דוגמה טובה לאנדרואידים 'עם נשמה' הם האנדרואידים בסרט "מלחמת הכוכבים", C3PO וR2D2. אני לא יודע אם יצא לך לצפות בסרט הזה (אני מדבר על ארבעת המקוריים, לא על אלה שיצאו לאור ב4 שנים האחרונות), אבל אם היית צופה, היית יכול להרגיש אמפטיה מסויימת לC3PO כאשר מתעללים בו, או כאשר הוא סתם מתלונן כי הוא כזה... אם היית רואה "מסע בין כוכבים- הדור הבא" היית רוצה שדאטה יקבל את הרגשות הוא כ"כ רוצה, והיית מבין את החיבה שחשים כלפיו 'ידידיו'/מפעיליו הביולוגיים, ואת הכעס שהם חשים כאנדרואיד אחר מוציא אותו מכלל פעולה ותופס את מקומו...

 

[masorti]

ראיתי את "מלחמת הכוכבים"...

וסרטי מד"ב אחרים, ואני מודע לעלילותיהם של R2D2, דאטה, ודומיהם. אלא שאני מבדיל בין סרט דמיוני לבין מושג האנדרואיד במציאות.

 

[arifell]

יפה

אני טוען שכרגע, המושג אנדרואיד, כפי שהוא מופיע בסרטי המד"ב האלה הוא דמיוני (וכאן אתה מסכים איתי), אבל, אני גם טוען, שבעתיד (הרחוק, או לא כ"כ) יכולים להיות אנדרואידים הדומים בתכונותיהם לC3PO, R2D2, דאניל אוליבאו או ג'יסגארד (מספריו של אסימוב), או מחשבים כמו עליזה שולל, או מייקרופט 'הולמס' (מספריו של רוברט היינלין). האם לגולם של המהר"ל מפראג הייתה נשמה?

 

[masorti]

ואני טוען שלא.

זכותך להאמין שהנפש הינה סך כול הנוירונים והאותות העצביים ותו לא. אני כופר בטענה זו. אי לכך, ברמת העקרון - לא יהיה לעולם אנדרואיד בעל נשמה (ומודעות עצמית). לגולם של המהר"ל מפראג לא היתה נשמה. הוא היה רק אנדרואיד/רובוט העשוי מבוץ.

 

[masorti]

ואני טוען שלא.

זכותך להאמין שהנפש הינה סך כול הנוירונים והאותות העצביים ותו לא. אני כופר בטענה זו. אי לכך, ברמת העקרון - לא יהיה לעולם אנדרואיד בעל נשמה (ומודעות עצמית). לגולם של המהר"ל מפראג לא היתה נשמה. הוא היה רק אנדרואיד/רובוט העשוי מבוץ.

 

[00000000000000000000]

אני מקבל את זה, כמובן.

בשרשור זה אני מודד את הדברים על פי הגירסה שלך להגדרת "נשמה". ---- אני מדבר לא על רובוט (דוגמת c3po), אלא בעיקר על דמוי אדם מושלם בעל מודעות עצמית ואברי מין המסוגלים לרביה. נראה, כי בסופו של דבר לשאלה יש משמעות מוסרית, יותר מאשר דתית. מאחר שדמוי אדם שנוצר מכימיקלים במעבדה לא יהיה יהודי, בכל מקרה. השאלה תהיה - האם מותר לקחת ממנו את החרות שלו? לענות אותו? סביר להניח שהתשובה הדתית לעניין העינוי תהיה שלילית, גם אם האנדרואיד יוגדר כחסר נפש. הסיבה: כדי שהאדם לא יתרגל למעשים כאלה. עבד מותר לקחת בדת היהודית גם עם הוא בעל נפש. גיור? אולי פה נמצאת ההשלכה המעשית של השאלה אם לאנדרואיד דמוי אדם יש נפש או לא.

 

[masorti]

תוכל לנסות שוב להפיל אותי בפח...

בתקווה שלא אשים לב לשטות שהשחלת כהנחת יסוד, ואתווכח עם המלל שלך. הנחת היסוד שלך היא: "אני מדבר לא על רובוט (דוגמת c3po), אלא בעיקר על דמוי אדם מושלם בעל מודעות עצמית ואברי מין המסוגלים לרביה". אין ולעולם לא יהיה יצור כזה. נקודה. לכן כל מה שכתבת בהמשך הינו חסר-משמעות ואין טעם לדון בו.

 

[00000000000000000000]

המממ...

למעשה, התלבטתי אם כוונתך היתה לשלול לחלוטין אפשרות כזאת, או לשלול את האפשרות שיהיה אחד כזה עם תודעה, אך ללא נפש. הבהרת את כוונתך, ונוכל להמשיך את שיחתנו לפי זה. אנא, הפסק להיות פאראנואיד.

 

[vizini]

ברור שחובת ההוכחה היא עלי.

השאלה הגדולה היא מה תהיה בעיניך הוכחה.

 

[masorti]

לדעתי אין הוכחה כזו.

אתה מוזמן להציג את מה שאתה רואה כהוכחה, ואז נדון בקבילותה.

 

[vizini]

מבחן טיורינג?

 

[אלי ו.]

בודאי שלא!

מבחן טיורינג אינו קשור לנשמה. הוא קשור ליכולת של מחשב לנהל "שיחה" אנושית.

 

[vizini]

לא ולא.

מבחן טיורינג אינו קשור ליכולת של מחשב לנהל שיחה אנושית. מבחן טיורינג קשור ליכולת של מחשב להתנהג כמו בן אנוש, כך שאי אפשר יהיה להבדיל בינו לבין בן אנוש רק על סמך שיחה.

 

[masorti]

ברור שמחשב יוכל לעבור בהצלחה...

מבחן טיורינג כזה, אבל זה כלל אינו רלוונטי. הרי אמרתי מההתחלה שבעקרון לא ניתן יהיה להבדיל במדידות בין אדם למכונה. תוכל לטעון 10,000 פעם שסימולציה של התנהגות המביעה רגש מוכיחה את קיומו, וסימולציה של התנהגות המביעה תודעה עצמית מוכיחה את קיומה.... ועדיין זה יישאר בגדר שטות. סיכום: מבחן טיורינג נדחה על הסף כדרך להוכחתה של קיום נשמה.

 

[אלי ו.]

למיטב ידיעתי אף מחשב לא עבר את

מבחן טיורינג. מבחן טיורינג לא בודק אם אפשר "לעבוד" על כותבים בצ'אט שמקלידים ביד אחת, אלא ניהול "שיחה" שמטרתה להבדיל בין אדם למכונה.