האם יש איזה שהן מסקנות

[vizini]

באמת היה לי משעמם

בזמן האחרון להתווכח עם יריבים שאינם כערכי..

 

[masorti]

מצטער שנעדרתי מהפורום...

ונאלצת להתווכח עם יריבים נחותים.

 

[vizini]

לא.

ניקח לדוגמא מערכת feed forward . אתה מזין לה קלט, ולכל קלט תמיד יהיה פלט. אתה מחליט שלפלט מסויים יש משמעות מסויימת, ובהתאם אתה משנה את המשקלות. כך אתה "מאמן" את הרשת. הרשת עצמה לא מיחסת שום משמעות לאופי הקלטים או הפלטים. במערכת שאני תיארתי, אין מישהו שישנה את המשקלות בהתאם למשמות המיוחסת לפלט, וגם אין מישהו שיתרגם את הקלט. את כל זאת עושה המערכת בעצמה, על סמך הקלט בלבד. כלומר זאת מערכת עם משוב. כעת, אתה בטח יודע שמערכת כזאת היא כיאוטית, ואפילו לא מובטח שתהיה התכנסות לאיזשהו פתרון עבור קלט נתון, כלומר המערכת יכולה "לצאת מכלל שליטה" ולהתנהג בצורה לא סדירה שלא תזכיר בכלל התנהגות אנושית (בעצם, סביר מאוד שהמערכת שאותה תיארתי אכן תתנהג כך ברוב המקרים...) אם, באיזשהו אופן פלאי, המערכת הזאת בכל זאת תתנהג כמו בן אנוש, אי אפשר יהיה לייחס זאת לאלגוריתם "מתוכנת מראש". לכן, מערכת כזו בהחלט תפגין רצון חפשי, כמו גם מודעות.

 

[אלי ו.]

בערך

אתה מחליט שלפלט מסויים יש משמעות מסויימת. המערכת משנה את המשקולות בכוחות עצמה (אחרת אתה מדבר על מערכת סטטיסטית, דבר שבמערכות מורכבות גם בלתי אפשרי כשיש לך מספר רב מאוד של משתנים) במערכת שאתה תארת הקלט הוא הפעולות של אנשים שונים שהמערכת קולטת והתוצאה היא תגובות אנשים אחרים לפעולות. מערכת כפי שתארת לא "מבינה" את מה שקורה, היא פשוט קולטת פעולות ותגובות. מערכת כזו תצטרך אימון בכדי להבין איזו תגובה היא רצויה (חיוך למשל) ואיזו אינה רצויה (בכי, פרצוף עצוב) לאחר שתהיה מאומנת, המערכת תוכל להביע כאב אם מישהו יפעיל עליה פעולה "מכאיבה" ולצופה מהצד ייראה כאילה המערכת באמת סובלת אבל בפועל מדובר בתגובה אוטומטית ולא בתחושת כאב. כך גם כל רגש אחר. מערכת כזו אינה צריכה להיות כיאוטית, להיפך מערכת זו מערכת שאפשר להגדיר (כפי שאתה הגדרת נכונה) כדטרמיניסטית. בכל מצב מסויים קלט מסויים ייתן את אותו פלט. (שים לב שהמערכת משתנה, כך שזה נכון ל"אותו מצב" של המערכת) שוב, אני חושב שאנחנו יותר מדי טכניים, אין לי בעיה עם מערכת דמיונית בטכנולוגיה לא מוכרת לנו. שנינו מסכימים שכיום הטכנולוגיה רחוקה ממבחן טיורינג, כך שזה די טפשי לדון בטכנולוגיה בת ימינו או בשיפורים פשוטים שלה.

 

[vizini]

כלל לא מדובר כאן על טכנולוגיה

הגענו לטכנולוגיה כי אתה מדבר עליה. אני דיברתי באופן כללי על מערכת. המערכת שלי יכולה להיות כיאוטית, לא דטרמיניטית, וכו'. כל האינטראקציה שלה עם הסביבה דומה לאינטראקציה של אדם עם הסביבה. מעבר לאינסטינקטים הדומים לאלה שאיתם נולד אדם, לא תוכנת לתוכה מראש שום דבר. אם, בדרך פלא, תתחיל המערכת הזאת להתנהג כמו אדם, האם ניתן יהיה לומר שהיא פיתחה מודעות?

 

[אלי ו.]

Programming by magic

לא עובד. אין כזה דבר. הסברתי איך כעיקרון מערכת כזו תעבוד, ולמה אין לה מודעות. נראה לי ששני הצדדים די נטועים בעמדותיהם ונראה לי שהדיון די מיצה את עצמו.

 

[vizini]

לא תכנות.

מדובר (לפחות בתיאוריה) על העתקת הארכיטקטורה של המוח. אף אחד לא "מתכנת" את המוח. כך גם לא יתכנתו את המכונה. אם זה עובד או לא, עוד נראה. יתכן בהחלט שזה לא עובד. השאלה היא - אם זה כן עובד, האם המכונה פיתחה מודעות? כל מה שעליך לענות הוא כן או לא.

 

[אלי ו.]

אני מאמין שלא

מכיון שלפי אמונתי האישיות שלי היא יותר ממטענים חשמליים ותהליכים ביו כימיים שמתבצעים בחלל שבין האזניים שלי. הניסוי היחידי שאתה יכול להציע זה להראות שללא מוח כנראה לא תהיה לי תודעה. מבחינה מחקרית הוכחה כזו דומה להוכחה המפורסמת שזבוב בלי רגליים לא שומע.

 

[תיאולוגיה]

גם אין שום ערובה

שמוח תקין ומתפקד היטב (מחשב) יוכל לפתח מודעות ללא תכנים (תכנות). למעשה ההפך הוא הנכון: דוגמא לכך הם ילדי הזאבים שגדלו במנותק מחברה אנושית ולא פיתחו מודעות.

 

[אלי ו.]

למה לילדי זאב אין מודעות?

שוב, את נופלת למלכודת ה"תצפית המדעית" החיצונית. "ילד זאב" שכזה בלי ספק יהיו לו בעיות התפתחות שאולי ימנעו מאיתנו להזדהות איתו ולהבין אותו, אבל אין בין כך לבין מודעות כלום. בה במידה היית יכולה לומר שלאוטיסטים אין מודעות. רק בגלל שלמישהו יש קושי תקשורתי או אחר שמונע מאיתנו תצפית ש"תאבחן מודעות" אין זה אומר שהיא אינה קיימת. (שוה לקרוא ספרים כמו של ד"ר גרנדין טמפל, אוטיסטית, על חייה)

 

[תיאולוגיה]

"שוב צדקת יקירי" ../images/Emo13.gif

 

[vizini]

אני יכול להציע הרבה ניסויים.

לדוגמא: נניח שנקח נוירון שרירותי במוח שלך, ונחליף אותו בנוירון מלאכותי המתפקד בדיוק כמו הנוירון המקורי, פרט לכך שהוא עשוי מחומר "עמיד" יותר. האם יחול איזה שינוי בך? נניח שנמשיך להחליף נוירונים במוחך. האם יחול שינוי באיזשהו שלב? ישנן שתי תוצאת אפשריות. אם במהלך הניסוי תחול ירידה בכושרך המנטלי, ובאיזשהו שלב יאבד לגמרי, כי אז ברור שהכרה אינה יכולה להיות במשהו מכני. אם, לעומת זאת, לא יחול שום שינוי בכשרך המנטלי במהלך ההחלפה, כי אז תהיה נאלץ להודות כי יכולה להיות הכרה במוח מכני...

 

[אלי ו.]

המסקנות הניסוי לא חד-משמעיות

זאת מכיון שלא הוסכם שהתודעה שוכנת במוח או שהמח הוא רק מכשיר שעוזר לנו להחצין את התודעה. תוצאה אפשרית 1 - יש ירידה מנטלית מסקנה אפשרית א - היכולת הקוגניטיבית ירדה אך המודעות נשארה מסקנה אפשרית ב - היכולת הקוגניטיבית ירדה בגלל שהמודעות נפגעה תוצאה אפשרית 2 - אין ירידה מנטלית מסקנה אפשרית א - למח מלאכותי יכולה להיות מודעות מסקנה אפשרית ב - בגלל שהתודעה אינה שוכנת במח החלפת המח לא פגעה בתודעה. לטעמך מסקנות 1ב ו2א רצויות אבל תוצאות הניסוי עדיין פתוחות לפרשנות. כפי שכבר הדיינו רבות, נקודות המחלוקת הן: 1. האם אפשר לבדוק נוכחות מודעות 2. האם המודעות היא פיזית ואם כן אם היא שוכנת במח. כל עוד לא נוכל להסכים על 1 ו 2 הויכוח הוא עקר ולעולם לא נוכל להגיע להסכמה או לסיום הויכוח ומדובר בעוד ויכוח אמוני שבסופו של דבר די מקביל לויכוח איזה צבע יפה יותר, כחול או אדום.

 

[vizini]

אין שתי מסקנות לכל אחת מהתוצאות.

היות המודעות קשורה קשר חד ערכי עם המוח הוא עובדה מוכחת: בהפגע כל אחד מהאברים בגוף פרט למוח, מודעות עדיין קיימת. בהפגע המוח, המודעות (או לפחות גילוייה החיצוניים) נעלמת. לכן אם המודעות נשארת בצורה רציפה (אל תשכח שההחלפה של הנוירונים נעשית אחת אחת, כך שאפשר לודא אחרי כל נוירון שהאדם הוא "אותו אדם" מבחינת המודעות) עם החלפת המוח למוח מלאכותי, ניתן לומר בוודאות כי מודעות אפשרית במוח מלאכותי (אני יודע שקשה לך להודות בכך, אך זוהי מסקנה בלתי נמנעת). ואילו בתוצאה הראשונה, ניתן יהיה לומר בוודאות כי אין די בתפקוד הפיסי של המוח (כי ההנחה היא שהתפקוד הפיסי של המוח המוחלף זהה למוח המקורי) לפחות להשגת הגילוי החיצוני של מודעות. אמונתך מונעת ממך להסכים ללוגיקה כל כך פשוטה?

 

[אלי ו.]

כנראה שדילגת על כמה הודעות

באחת ההודעות נתתי את אנלוגית מרכזית הטלפונים של פרופ' קרוי. (מח = מרכזית טלפונים מבחינה תקשורתית) אם אני ואתה נשוחח בטלפון ומרכזית הטלפונים שמחברת בינינו תהרס, מבחינתך אני כבר לא קיים, אבל בפועל פשוט אין לך אפשרות לשמוע אותי וסיכוי טוב ששרדתי את נפילת מרכזית הטלפון. בתור צופה מהצד אולי תניח שאני שוכן במרכזיה, אבל זה אינו המצב.

 

[vizini]

ומה זה רלוונטי לטענה שלי?

אם נשתמש באנלוגיה שלך, אני מחליף את הקוים במרכזיה תוך כדי שיחה איתך, ומוודא אחרי כל החלפה שאתה עדיין קיים. אם אחרי החלפת כל הקוים אתה עדיין משוחח איתי, אני יכול להסיק בוודאות שהרשת הנוכחית פועלת כמו הקודמת. או בחזרה לבעיה האמיתית, שיש מודעות במוח מלאכותי. אתה באמת רוצה לטעון שבשלב מסויים אתה עזבת את המרכזיה אבל הרשת ממשיכה לשוחח איתי כאילו אתה עדיין שם??? לא נראה לך מגוכח לטעון טענה כזו???

 

[אלי ו.]

זו לא הטענה

האנלוגיה מדמה אותי למודעות ואת המרכזיה למוח. הטיעון אומר שהמרכזיה (המח) אינה שוה למודעות. אם תחליף את כל המרכזיה, עדיין אני מעבר לקו. אני לא נמצא בתוך המרכזיה.

 

[vizini]

אתה מנסה להגיד לי מה הטיעון שלי?

בוא נעשה עסק - אתה תטען את הטיעונים שלך ואני את שלי... המטרה המקורית של האשכול היתה לראות האם תתכן מודעות במוח מלאכותי. אתה טענת שלא ניתן להציע ניסוי שיראה זאת. אני הצעתי ניסוי. למענך, אחזור על הצעת הניסוי שוב: אני מחליף את הנוירונים במוחך, אחד אחד, ע"י נוירונים מלאכותיים שתפקודם זהה. לאחר כל החלפה, אני משוחח איתך ובודק שאתה עדיין "אתה". אם לאחר החלפת כל הניורונים במוחך אתה עדיין אתה, יש לנו כרגע אותך, בעל מוח מלאכותי לגמרי, ועם רצף של מצבים בין אדם עם מוח אמיתי ואדם עם מוח מלאכותי, השונים זה משכנו בנוירון בודד, וכל אחד ממצבי הרצף טוען להיותו אלי. אם זו תוצאת הניסוי, המסקנה הבלתי נמנעת היא שתתכן מודעות במוח מלאכותי. האם עד כאן?

 

[אלי ו.]

הבנתי את כונתך

והתשובה שלי היא שבגלל שאיננו יכולים לדעת מהו מיקום הנשמה, אז לאדם חי שמוחו הוחלף במוח מלאכותי בעודו בחיים אולי תתכן האפשרות לשמירה על המודעות.

 

[vizini]

יפה! זו התקדמות משמעותית.

אנו מסכימים, אם כן, שאם אכן אלה תוצאות הניסוי, תיתכן תודעה במוח מלאכותי. נלך עוד צעד קדימה: כעת, במקום לבדוק את המודעות אחרי כל החלפת נוירון, אנו מבצעים את כל ההחלפה בבת אחת תחת הרדמה, ובודקים את המודעות רק אחרי החלפת כל הנוירונים. שוב, כמו בניסוי הקודם, אתה מתעורר וממשיך לטעון בתוקף כי אתה הוא אותו אלי. האם יש מודעות במוח המכני החדש שלך כעת?