האם יש איזה שהן מסקנות

[אלי ו.]

אני אעזור לך, כי אני ראוה לאיפה אתה

מתקדם. (פשוט צפיתי שתעשה את זה יותר מהר) אני מאמין שהנשמה אינה שוכנת באיבר מסוים אלא היא ישות רוחנית. אני לא יודע, ואין לי בעיה לומר שאני לא יודע, אם היא קשורה לאיבר מסוים או לא. אני לא חושב שאדם עם אברים מלאכותיים, הוא חסר נשמה. יכול להיות שאדם חי שתחליף את כל איבריו ובסופו של דבר נשאר עם סייבורג או אדם מלאכותי עדיין ישאר עם נשמה. אני פשוט לא יודע. אני מאמין שלאדם מלאכותי זהה שתיצור במעבדה, לא תהיה לו נשמה. שוב בפעם האלף, מדובר בויכוח אמוני, לא לוגי, אם כי אני חייב לומר שהצלחת לחדד ולהבהיר אותו בשאלה האחרונה.

 

[vizini]

תודה על העזרה

אם כי לא בדיוק לשם אני רוצה להגיע. קודם כל, אני רוצה להבדיל בין נשמה למודעות. בעוד שנשמה הוא משהו ערטילי שאי אפשר אפילו להגדיר אותו, על אחת כמה וכמה להסכים על עצם קיומו, שונה הדבר לגבי מודעות (על כל המשמעויות המיוחסות למונח הזה). אני יודע שאני בעל מודעות, ואני מוכן לקבל את דברתו של כל אדם הטוען שגם הוא בעל מודעות. אני גם לא מסכים לכך שאי אפשר לייחס את המודעות לאיבר מסויים, אבל זה נושא לויכוח אחר. בפתיל הזה, מטרת הדיון הנה לבחון האם תתכן מודעות ביצור מכני שאינו בשר ודם. הטענות המקוריות (שלך ושל מסורתי) היו שלא רק שלא תתכן, אלא אפילו לא קיימת כל דרך שבה ניתן לדעת זאת. תוצאת הפתיל הזה,(ואני שמח שהגענו לכלל הסכמה בעניין זה) היא שאם תתכן מודעות ביצור מכני, בהחלט יש דרך שבה ניתן לדעת זאת.

 

[vizini]

ובצירוף מקרים נדיר...

התפרסמה היום הכתבה הזאת

 

[masorti]

הכשל הלוגי במודל שלך הוא...

שאתה מבצע את הניסוי על מוחו של אלי ו. או של אדם אחר. במקרה כזה, עדותו הסובייקטיבית של "שפן הנסיונות" מהווה ראייה-לכאורה לנכונותה, משום שהנחת העבודה היא שלפני הניסוי היתה לו מודעות. כאשר תבצע את הניסוי על מכונה, עדותה של המכונה אינה מוכיחה דבר פרט לכך שהסימולציה מוצלחת. כנ"ל אם תחליף "במכה אחת" את מוחו של אלי ו. במוח מלאכותי. העובדה שאלי ו. המשופץ יטען "אני זה אני" לא מוכיחה דבר. בסה"כ זה מוכיח שהמתכנת של המוח המלאכותי הצליח לסמלץ היטב את תגובותיו של אלי ו. לשאלות על תודעתו.

 

[vizini]

עכשיו אתה נחלץ ל"הגנתו" של אלי?

אני חושב שהוא הבין טוב ממך את הטענה. שים לב: בניסוי הראשון, בדקנו את התודעה לאחר החלפת כל נוירון. ההנחה היא, שלאחר כל החלפה כזו, התודעה לא השתנתה ואלי עדיין טוען שהוא זה הוא. לאחר סיום כל ההחלפות, אלי (שכעת יש לו מוח מלאכותי) ממשיך לטעון שהוא זה הוא. בניסוי השני, החלפנו את כל הנוירונים בבת אחת, מבלי לבדוק לאחר כל החלפה את התודעה. לאחר סיום ההחלפה, ההנחה היא שאלי ממשיך לטעון שהוא זה הוא. מה השוני העקרוני לעומת הניסוי הראשון? אין כזה. לכן גם בניסוי השני, מודעותו של אלי קשורה כעת למוח מלאכותי. שים לב לעוד נקודה קריטית: לא תיכנתנו שום דבר. פשוט העתקנו, אחד לאחד, את מבנה מוחו של אלי על כל נוירוניו. לכן לא מדובר בסימולציה. הצעד הבא הוא כמובן לבצע את ההעתקה מבלי להחליף את הנוירונים המקוריים. אם בסיום ההעתקה יקום אלי המלאכותי ויטען כי הוא הוא אלי האמיתי, מה תאמר אז?

 

[אלי ו.]

קודם כל עזבו את המוח שלי

עם כל הבעיתיות בתפקוד שלו, אני מעדיף לשמור את הנוירונים המקוריים, התרגלתי אליהם והם התרגלו אליי עם כל המוזרויות שלי. אני עדיין לא מסכים למבחן טיורינג או מבחן הצהרתי כמבחן למודעות. אני עדיין לא מסכים שליציר אדם במעבדה יכולה להיות מודעות. תשאל אותי מה ההבדל? ואני אומר לך, שוב, שמדובר בדבר שאינו פיזי. משהו שהוא הגדרת החיים.

 

[vizini]

זה לא אישי נגדך...

אם החלפת הנוירונים במוח היתה טכנולוגיה אפשרית, אני הייתי מסכים לכך בשמחה. בס"ה, מדובר בחיי נצח אמיתיים, ולא הזויים...

 

[אלי ו.]

זאת בתנאי שיש לך נשמה כמובן

אחרת אלה הם חיי המוח המלאכותי ולא חייך. אחרת מי שיקום מהניתוח לא יהיה ויזיני אלא מישהו (או משהו) אחר.

 

[vizini]

זה כלל לא משנה.

כבר הדגמתי באמצעות טיעון הנוירון אחרי נוירון, שאהיה זה אני עצמי לאחר ההחלפה.

 

[אלי ו.]

אם כך איפה שוכנת המודעות?

אם החלפת את כל המוח המקורי שלך, במוח מלאכותי, ואתה נשארת אתה, היכן שוכנת המודעות שלך? להזכירך, הטיעון שלך היה שהמודעות שוכנת במוח.

 

[vizini]

במוח, כמובן. היכן חשבת?

 

[תיאולוגיה]

המודעות

לדעתי, נמצאת בסך הכולל של האדם: המוח, הלב, הדם, העצבים, הוורידים, הכבד, הכליות... אם תחליף איבר אחד, האחרים עדיין ישמרו את הנתונים.

 

[vizini]

הנסיון מראה שלא.

פגיעה בכל אבר של אדם פרט למוח אינה משנה את אישיותו. פגיעה במוח, לעומת זאת, משנה גם משנה.

 

[תיאולוגיה]

ומה יקרה אם

יערכו השתלת מוח ויתברר שהאדם נשאר אותו אדם, וכי המוח הוא רק המחשב ש"קורא" את הנתונים?

 

[vizini]

רעיון מעניין.

משתילים בגופו של A את מוחו של B. האפשרויות הם: א. הניתוח לא מצליח. אפשרות זו לא מעניינת ונתעלם ממנה. ב. האדם המתעורר טוען שהוא A ג. האדם המתעורר טוען שהוא B ד. האדם המתעורר שונה לגמרי מ A וגם מ B. בעצם, זהו אדם חדש. כמובן שרק במקרה ג יוכח כי המוח הוא שמכיל את כל אישיותו של האדם. אני חושב כי כל המידע הניסויי שהצטבר עד היום מוכיח כי כך הוא.

 

[arifell]

למה אתם מניחים שהמוח שלנו

לא 'מתוכנת' לעשות דברים? מאין לכם המוח שלנו הוא יותר ממחשב מתוחכם? זה לא שאני חושב ככה, אבל אני לא רואה מניעה לרעיון. ובהמשך ישיר לקו המחשבה הזה, ברור שייתכן שמחשב עתידני יפתח מודעות (כמו מייקרופט הולמס של היינלין, או מולטיבאק של אסימוב)

 

[אלי ו.]

יש כאן ויכוח מובלע

שיושב ומטיל צל על הדיון הזה. הויכוח הוא על המצאותה של נשמה, זוהי אחת מאבני המחלוקת בין התפיסה האתאיסטית לתפיסה האמונית. בסה"כ כפי שכתבתי קודם לכן, מדובר בשאלה אמונית, ולא בשאלה שתוכרע באופן לוגי. אני יכול להיות דמגוג ולשאול אותך את השאלה הבאה: אם למחשב תהיה נשמה, האם זה מוסרי לכבות אותו? האם אינך מבצע רצח? (השאלה דמגוגית מכיון שאני מנסה להשפיע על דעתך לכיוון מסוים בגלל שיקולי נוחות עתידיים)

 

[vizini]

השאלה איננה דמגוגית כלל.

זוהי בהחלט שאלה שצריך להתייחס אליה בכובד ראש. אגב, הקשר של "נשמה" לתפיסה אמונית מול אתאיסטית הוא שגוי. האמונה אינה מחיבת נשמה, כמו שהתפיסה האתיאיסטית איננה שוללת אותה. נכון הוא שדת ללא "נשמה" אינה אטרקטיבית למאמיניה, ולכן דתות כאלה נדירות (אם בכלל קיימות) אולם הקשר איננו הכרחי. לעומת זאת, יש זרמים לא דתיים (כמו הזרם הויטליסטי) שמאמינים בקיומה של נשמה, אפילו במובן רחב מאוד.

 

[אלי ו.]

השאלה דמגוגית בקונטקסט של שכנוע

להעדיף תאוריה אחד על פני אחרת בגלל שבחירה בתאוריה מסוימת תגרום לקשיים מוסריים/אתיים. כמובן שבתור שאלה אתית בפני עצמה, זו שאלה מענינת.

 

[אלי ו.]

גם אני לא מאמין ב"רצון חופשי" של

מכונה, ולכן שמתי את המונח במרכאות. יש הבדל בין פקודה ישירה או הגדרה: אמנות = תמונה בכמה העתקים/שיר/רישום צור אמנות לבין מכונה שתיצור דבר שאפשר יהיה לפרשו כאמנות בלי שנתנו לה פורמלית הגדרות והוראות אלא בקונטקסט טבעי.