קראתי על רעיון הסינגולריות של ריי קורצווייל

[deathcaster]

הרגת אותי עם דוד ;-D

 

[tslil השפוי]

../images/Emo45.gif+1

 

[רוקד עם שבלולים]

אני תמיד שאלתי את עצמי

מה יהיה אם המחשב הסופר-אנושי שקורצוייל מנבא, לא ירצה להתנהג לפי התכתיבים של קורצוייל. הרי כל הקטע בסינגולריות הוא שהמחשב הסופר-מתוחכם יכול לתכנן מחשב עוד יותר מתוחכם, וההוא יבנה מחשב עוד יותר מתוחכם... אבל בין "יכול" לבין "יעשה" יש הרבה מרחק. מה יקרה אם המחשב הסופר-מתוחכם לא ירצה לבנות הלאה? אולי הוא יגיד "בעצם למה לי לבנות ישות שיותר מוצלחת ממני? מה רע לי ככה, להיות הכי חכם ביקום? אחרי שאני אתכנן לטמבלים האלה את המחשב הבא, הם יוציאו לי את השטקר. לא מתכנן, מה תעשו לי?"

 

[אלב85]

הצלפות שוט תמיד עוזרות במקרים כאלה

ואם המחשב הזה יהיה דומה במשהו לבני האדם, אפשר להניח שהוא ירצה לבנות הלאה, ולו רק כדי שיהיה לו מישהו שייעשה בשבילו חישובים יותר מורכבים ממה שהוא מסוגל להם.

 

[רוקד עם שבלולים]

אבל למה שמחשב בעל תודעה ירצה בכלל לחשב

חישובים נורא מורכבים?

 

[אלב85]

עובדה

אנחנו "מחשבים" בעלי תודעה וזה מה שאנחנו רוצים.

 

[רוקד עם שבלולים]

שתי בעיות:

1) ה"אנחנו" הזה שרוצים הם אי-אלו אינדיבידואלים מתוך שבעה מיליון. אני טוען שייתכן בהחלט שיש הרבה יותר מאיתנו שמעדיפים שלא לבנות מחשב כזה. 2) הטענה שלך היא קצת מעגלית: קורצוייל ושות' טוענים שמחשב חזק מספיק יהיה בעל תודעה דמוית-אנושית. הטענה שלך היא בעצם זהה: שאנשים הם מחשבים. את זה עוד צריך להוכיח - ע"י הגעה למחשב בעל תודעה. עד שזה יקרה, יש להתייחס לטענה שאנשים הם לא רק מחשבים (ובניסוח אחר: שהמשוואה "אדם הוא כמו מחשב" היא לא מציאות אלא מטאפורה לא שלמה, בדיוק כמו מטאפורות אחרות שהיו פופולאריות בזמנים קודמים, כגון "האדם הוא כמו מכונה שפועלת על קיטור", ושהיה להן שימוש מסויים - אבל לא בלתי-מוגבל) ברצינות.

 

[אלב85]

מה לא הוכיחו?

2. התודעה מורכבת מחומר. לא צריך לבנות מחשב כדי להוכיח את זה. 2. אז אולי חלק מהמכונות רק יעבירו את הזמן בכיף, וחלק אחר יבנה מחשבים יותר "חזקים" ממנו.

 

[deathcaster]

אמירות בעייתיות

2א. חומר הוא מוחשי וכמותי, תודעה לא, לא ניתן להגיד שהתודעה מורכבת מחומר, אחרת היה אפשר לעמוד על ההרכב של החומרים המרכיבים את התודעה. 2ב. זה מעניין מאוד, אבל זה כבר תלוי ביכולת הלמידה החיצונית של אותן מכונות בעתיד, אם הם לא יוכלו לעבד קלט בצורה דיפרנציאלית בהתאם לסביבה (אפשר לקרוא לזה אבולוציה או אפיגנטיקה רובוטית) הם יעשו רק פעולות קבועות ואחידות, אם יכולת הלמידה שלהן כן תהיה מושפעת מהסביבה החיצונית, קבלת ההחלטות שלהן בהחלט יכולה להיות דיפרנציאלית, ולכן מכונות בעתיד בהחלט תוכלנה לקבל החלטות שונות אחת מהשנייה.

 

[Klayhamn]

מה?

2א שלך לא ברור. מה זאת אומרת "תודעה היא לא"? מה זאת אומרת "לא ניתן להגיד שהתודעה מורכבת מחומר, אחרת אפשר היה לעמוד על ההרכב של החומרים המרכיבים את התודעה" --- אנחנו יודעים בדיוק מה הוא. קח מוח ממוצע - ההרכב הכימי שלו הוא ה-"הרכב הכימי של התודעה". זה כמו שתגיד ש-"חיים" היא לא תופעה שמבוססת על חומר, ושאנחנו לא יודעים "מאיזה חומר עשויים החיים". החיים הם אוסף של תהליכים כימיים שפועלים יחד ב-"הרמוניה" או ב-"סדר" מיוחד שיש לו תכונות ש-"גדולות מסכום חלקיו". לנמר יש תכונות שאין לחלבונים ולשומנים שמהם הוא עשוי, אבל זה לא אומר שיש בו איזה "ניצוץ מטאפיזי מיוחד" שגורם לזה שהוא יהיה חי. גם מחשב הוא לא סתם "אוסף של אלקטרונים שנעים ממקום למקום". כמו שאמר קארל סייגן --- מה שמעניין בפרח הוא לא האטומים שמהם הוא עשוי, אלא האופן שבו האטומים האלה פועלים יחד. החיפוש אחרי ה-"חומר" הוא פשטני ולא מוביל לשום מקום. למי איכפת ממה "עשוי" נמר? השאלה היא איך הוא בנוי, איך הוא פועל. כנ"ל לגבי התודעה. מה זה משנה אם היא עשויה מחלבון ומים או מנחושת ופלסטיק? השאלה היא מה הם מרכיביה של המערכת, וכיצד היא פועלת .

 

[deathcaster]

תגובה

אינני מסכים איתך, ההרכב הכימי של המוח אינו שווה ערך להרכב הכימי המרכיב את התודעה, כי כשאדם ישן או בתרדמת או מת, אין לו תודעה.... אבל הרכב המוח שלו לא משתנה (לא בצורה שאנו יכולים תמיד להבחין בה). אני אתאיסט (וגם מתיימר להיות מדען), ולכן אינני יכול לעשות קורלציה בין אוסף הרקמות המרכיבות את המוח הוא הוא גם התודעה. אנו לא יכולים להגדיר תוגעה בצורה אבסולוטית ובטח שלא לכמת אותה, מכאן אנו לא יכולים להסיק קורלציה כלשהי.

 

[Klayhamn]

אוקיי

| הדגש| אינני מסכים איתך, ההרכב הכימי של המוח אינו שווה ערך להרכב הכימי המרכיב את התודעה, כי כשאדם ישן או בתרדמת או מת, אין לו תודעה.... אבל הרכב המוח שלו לא משתנה (לא בצורה שאנו יכולים תמיד להבחין בה). אתה מודע לזה שזו סמנטיקה? כשיצור חולה או נכה אין לו חיים? מתי יצור מפסיק להיות חי? מה אם אתה סתם ישן, יש לך תודעה או לא? מה עם זבובים, יש להם תודעה? מה היא בכלל ההגדרה של המילה "תודעה"? על מה המילה הזו מצביעה? למה אתה קורא תודעה? אם לאדם מת אין תודעה, אז למה יש פועל בשם "החייאה" - ומה משמעות המילה הזו? האם המוות הוא הפיך ובעצם אפשר להחיות אנשים? אז מה זה אומר על "היעדר התודעה"? ואגב, כל המשפט הזה לחלוטין מפספס את הפואנטה , ההודעה שלי דיברה בדיוק על זה - שהחיפוש אחר "ההרכב הכימי" הוא פשטני ולא אומר דבר. האם כשאתה חולה נניח בסרטן ההרכב הכימי שלך משתנה? האם כשיש לך וירוס במחשב -- ההרכב הכימי שלו משתנה? האם ה- מעגלים האלקטרוניים הבסיסיים שנמצאים במעבד נניח או על לוח האם - משתנים, כשיש לך וירוס? לא, אלה סתם מערכות, שבהם לפעמים מתרחשים דברים -- נניח שינויים (לטובה או לרעה או "סתם" שינויים) באופן פעולתה של המערכת, שלא קשורים בכלל להרכב הכימי שלה או לפעמים אפילו למבנה שלה --- אלא פשוט לדברים שמתרחשים במסגרתה. נניח, אם יש לך סרטן, אז לא השתנה לך כל המבנה האנטומי, וגם לא ההרכב הכימי, אלא סתם, החל תא אחד או כמה תאים להתרבות ללא בקרה. כשיש לך וירוס במחשב --- אז משהו באינפורמציה שאגורה בו - השתנה - ועכשיו המערכת פועלת קצת שונה. למה לדעתך המח/תודעה מקיימים ביניהם קשר אחר? כשאדם נמצא בתרדמת, המוח שלו אולי פגום - מאלף ואחת סיבות שונות - שלא קשוורת בכלל להרכב הכימי שלו. אולי ניתקו קשרים חשובים בין ניורונים כלשהם? כשאדם מת, פשוט לא מגיע חמצן לתאים, והם עצמם מתים, ולכן הם לא יכולים להעביר ביניהם אותות חשמליים. למה זה מסתורי בעיניך? האם כשהמחשב שלך כבוי הוא "מת"? האם זה מסתורי ומופלא? האם אתה נדהם כשאתה מכבה את המחשב? האם אתה עוד יותר נדהם כשהוא "מתעורר לחיים" ברגע שאתה מחבר אותו שוב לחשמל? תודעה, כמו המילה "חיים", היא סתם מילה. היא מתארת אוסף של תופעות. האם וירוס "חי" או "לא חי"? זה סתם עניין של הגדרה. אלה גם אלה תהליכים כימיים. החלטנו באופן שרירותי שוירוס הוא לא חי, אבל חיידק כן. אני אתאיסט (וגם מתיימר להיות מדען), ולכן אינני יכול לעשות קורלציה בין אוסף הרקמות המרכיבות את המוח הוא הוא גם התודעה. למה לא? תודעה זו כאמור מילה, שמצביעה על משהו במציאות. מדוע אינך יכול לעשות קורלציה? מה מונע ממך? למה אתה יכול לעשות קורלציה בין אוסף של חלבונים, מים, אנזימים וכו' ובין "חיים"? אנו לא יכולים להגדיר תוגעה בצורה אבסולוטית ובטח שלא לכמת אותה, מכאן אנו לא יכולים להסיק קורלציה כלשהי. "חיים" אתה יכול להגידר בצורה אבסולוטית? ולמה צריך בכלל להגדיר "בצורה אבסולוטית"? האם "מוסר" מוגדר בצורה אבסולוטית? אם לא, האם זה אומר שאיננו יכולים להשתמש במילה הזו? מה הבעיה במילים שמשמעותן לא אבסולוטית, ומתארת איזו תופעה דינמית וחמקמקה? או אולי מצביעה באופן "גס" על איזה אוסף שרירותי של תהליכים שמעניינים אותנו, אבל לפעמים הם נמצאים, ולפעמים לא? נניח, יש אנשים שאין להם זיכרון (לטווח קצר, ארוך וכו') או לחילופין, אנשים עיוורים ואולי אפילו חרשים+עיוורים. יש גם אוטיסטים, ושלל פגמים מוחיים נפוצים או נדירים. האם האנשים הללו לא "חיים"? אם אין להם "תודעה"? לא ברור לי בדיוק מהיכן "אתה בא" -- אתה מדבר על "תודעה" כאילו הייתה זו איזו תופעה קסומה ומסתורית שאיננו יודעים עליה דבר. אנחנו יודעים המון על תודעה, על מרכיביה, ועל תהליכים במוח. מדוע לדעתך "איננו יכולים להסיק קורלציה" כלשהי? מה מונע מאיתנו? יש לך סיבה אמיתית לחשוב שיש משהו "מסתורי" מעבר לחומר ולאנרגיה שאחראי לתודעה?

 

[deathcaster]

תגובה

"אתה מודע לזה שזו סמנטיקה?"- פילוסופיה כן, סמנטיקה? לא. "כשיצור חולה או נכה אין לו חיים? "- יש לו "מתי יצור מפסיק להיות חי?"- שאלה טובה, אני לא חושב שיש לי תשובה מוחלטת לגבי זה, אם נחזור לאדם שקיבל אירוע מוחי והוא צמח... האם הוא חי? כנראה שכן, האם הוא בעל תודעה? אני לא בטוח. "מה אם אתה סתם ישן, יש לך תודעה או לא?"- אין לי תשובה חכמה על כך. "האם כשאתה ישן אתה מודע לכך שאתה ישן?" מבחינה ביולוגית כנראה שכן ואפשר להוכיח זאת ביותר מדרך אחת, מבחינה קוגניטיבית, אני לא חושב. אולי באמת כדאי שנגדיר "חיים" ו"תודעה". "האם כשאתה חולה נניח בסרטן ההרכב הכימי שלך משתנה?"- בהחלט "האם כשיש לך וירוס במחשב -- ההרכב הכימי שלו משתנה?"- ...המממ... השאלה אינה נכונה, כי כמו שאני ישן "קוד המקור" שלי שהוא הפעילות המוחית שלי משתנה כך גם מחשב שתקף אותו ווירוס, קוד המקור שלו משתנה, מעבר לכך ווירוסים עתיקי יומין כמו ה"צ'רנוביל" בדצמבר 1996 גם גרמו להרס של הכונן הקשיח ולגם להרס של ה-BIOS בלוח האם. "נניח, אם יש לך סרטן, אז לא השתנה לך כל המבנה האנטומי, וגם לא ההרכב הכימי, אלא סתם, החל תא אחד או כמה תאים להתרבות ללא בקרה"- זה כבר תלוי בסוג הסרטן ובמיקומו, גידול קטן מאוד בבלוטת התריס או בבלוטת יותר המוח משבש לך את כל הפעילות האנדוקרינית בגוף שמשליכה גם על פעילות מערכת העצבים ובעקיפין גם על המוח. אלו רק 2 דוגמאות קטנות. סרטן בהיפופיזה גם יכול להשפיע על מבנה אנטומי, למשל גידולים שגרמו לשיבוש בוויסות הורמוני גדילה שגרמו לתופעה של ענקות. "המוח שלו אולי פגום - מאלף ואחת סיבות שונות - שלא קשורות בכלל להרכב הכימי שלו." כמו למשל?

"אולי ניתקו קשרים חשובים בין ניורונים כלשהם?"- כיוון שהמוח שלנו עובד על תשדורת חשמלית וכימית, כל ניתוק קשר בין נוירונים פירושו שינוי הרכב כימי. "כשאדם מת, פשוט לא מגיע חמצן לתאים, והם עצמם מתים, ולכן הם לא יכולים להעביר ביניהם אותות חשמליים. למה זה מסתורי בעיניך?"- לא טענתי שזה מסתורי, טובי המדענים בעולם לא קוראים לחוסר היכולת שלהם להסביר את החלק המטפיזי שבקיום שלנו (קרא לזה נפש/נשמה או תודעה... אני קורא לזה פשוט משהו שאני לא יכול להגדירו או לכמתו) - "מסתורין" אלא פשוט ממשיכים לחקור את זה. "האם כשהמחשב שלך כבוי הוא "מת"? האם זה מסתורי ומופלא? האם אתה נדהם כשאתה מכבה את המחשב? האם אתה עוד יותר נדהם כשהוא "מתעורר לחיים" ברגע שאתה מחבר אותו שוב לחשמל? "- לא, לא, לא ולא (טוב אולי נדהם מכמות הפורנו ברשת

) .... אבל אני לא נדהם כי מחשב הוא עצם שאני יכול להגדירו בצורה אבסולוטית, כיוון שהבנתנו על אורגניזם חי עדיין, מה לעשות, רחוקה מלהיות מלאה, אני לא יכול להתייחס בצורה אובייקטיבית ומדעית למה שאינני יכול להגדירו ולכמתו. לגבי ההחלטה השרירותית, נכון מאוד, ולכן ההחלטה השרירותית שלי שוב, מבוססת על העובדה שאינני יכול להגדיר ולכמת תודעה בכלים מדעיים, ולכן מתייחס אליה כמו שהיא, מושג מופשט בלתי מוגדר מוחשית. (אגב, אני לא מסכים עם ההגדרה השרירותיתשנגיף איננו יצור חי

אבל מקבל את הדוגמה הרווחת מאחורי הקביעה שהוא לא) "למה אתה יכול לעשות קורלציה בין אוסף של חלבונים, מים, אנזימים וכו' ובין "חיים"?" - הנחה שגויה, אני לא עושה קורלציה כזו, אוסף של חלבונים ומים ואנזימים הם תנאי הכרחי לחיים, אך לא תנאי מספיק לכן אין הגדרה אחידה בעולמנו למילה "חיים". חיים, מוסר, ותודעה הן מילים שאין להן הגדרה אבסולוטית. אבל נראה לי שאתה שופט אותי לחומרה מדי

" נניח, יש אנשים שאין להם זיכרון (לטווח קצר, ארוך וכו') או לחילופין, אנשים עיוורים ואולי אפילו חרשים+עיוורים. יש גם אוטיסטים, ושלל פגמים מוחיים נפוצים או נדירים. האם האנשים הללו לא "חיים"? אם אין להם "תודעה"? - עד כמה שידוע לי לא טענתי שאדם חולה או מוגבל הוא חסר תודעה ולא ברור לי מדוע אתה שואל אותי את זה. האם לאוטיסטי אין תודעה ? בוודאי שיש לו... האם היא אותה תודעה שאני מייחסים לעצמנו? אני לא יודע, הרי עוד לא הגדרנו מהי תודעה..... זה כל מה שאני מנסה להגיד !!!!!

"אתה מדבר על "תודעה" כאילו הייתה זו איזו תופעה קסומה ומסתורית שאיננו יודעים עליה דבר."- לא, אתה הסקת עליי מסקנות שגויות. "אנחנו יודעים המון על תודעה, על מרכיביה, ועל תהליכים במוח" - על תהליכים במוח אנו יודעים, אם כי לא יודעים הכל, על מרכיבי התודעה מבחינה ביולוגית אנו כמעט לא יודעים דבר, יש לנו הרבה הנחות, לא משהו מוצק. יודעים המון על תודעה? פילוסופית כן, קוגניטיבית - אולי... אלקטרופיזיולוגית? - עם סימן שאלה מאוד גדול וזהיר.. ביולוגית? ממש לא. זו הסיבה שאנחנו לא יכולים להסיק ביולוגית קורלציה על כל המושג תודעה.. ובטח ובטח שלא קאוזלית. אנחנו יכולים להסיק קורלטיבית עם סימן שאלה על חלקים של התודעה... כמו למשל מנגנון ה-LTP ותעלות AMPA ו-NMDA על תהליך הלמידה, או פעילות כימית וחשמלית באיזור הצדדי של בלוטת השקד תעיד לנו על כעס או פחד... אבל זו רק טיפה בים. "מה מונע מאיתנו?"- ככל הנראה יכולת הבנה מוגבלת וחוסר טכנולוגיה ברזולוציה גבוהה יותר. "יש לך סיבה אמיתית לחשוב שיש משהו "מסתורי" מעבר לחומר ולאנרגיה שאחראי לתודעה? "- לא, מהסיבה הפשוטה שלא טענתי דבר כזה ואתה הנכסת חופשי מילים למקלדת שלי

אני לא חושב שיש לנו משהו מסתורי, אני רק חושב שאנחנו רחוקים עדיין מלהבין מהי תודעה, ובגלל שאין לנו כרגע אפשרות להגדיר ולכמת בצורה אבסולוטית מהי תודעה, אנו צריכים להיות זהירים ולא להתבייש להגיד: "אני לא יודע". ולהודות בזה ש"תודעה" לא יכולה להיות שוות ערך להרכב הכימי של המוח שלנו. ולו רק מפני שאין לנו את הכלים לקבוע זאת.

 

[Klayhamn]

טוב

אנסה לתמצת: אם, לדבריך, אינך יכול להגדיר תודעה, אז גם אינך יכול להגיד עליה דבר, בטח לא קביעה נחרצת כמו: ולהודות בזה ש"תודעה" לא יכולה להיות שוות ערך להרכב הכימי של המוח שלנו . אנחנו יכולים להגדיר תודעה וגם חיים טוב מאוד. לא הגדרה "מוחלטת" (כמו ההגדרה נניח של "מעגל") אבל הגדרה טובה ושימושית. אנחנו יכולים להבדיל לא רע בין "תודעה" ובין "לא תודעה", וגם בין "חי" ל-"לא חי". אם לא היה כך המצב, היית תוהה היכן נולדים שולחנות, באיזה מפעל מיוצרות זברות, על איזה סטרט אפ חושב זבוב, או מי האבא והאמא של המכונית שלך. המקרים הבעייתים היחידים הם "מקרי קצה", אבל אין שום בעיה להכיר בכך שקיים איזשהו ספקטרום נניח גם של תופעה כמו ה-"חיים" וגם של תופעה כמו ה-"תודעה", וזו לא דיכוטומיה פשטנית של "יש או אין" (בדיוק כמו שאמרת לגבי הוירוס והחיידק, הוירוס לא מקיים איזשהו תנאי - והחלטנו באופן שרירותי שזה מספיק לכך שלא נכנה אותו "חי"). זה לא ש-"אין לנו עדיין" הגדרה לחיים, אלא שלא יכולה להיות לנו הגדרה מדוייקת לחיים, בדיוק כמו שאין הגדרה "מדוייקת" לערימה, ואף על פי כן, זו מילה שימושית, ולפעמים אנחנו רואים דברים שהם "ערימה", ולפעמים אנחנו רואים דברים שהם "לא ערימה", ובדרך כלל לא נתבלבל וגם לא נתווכח ממש על מה הוא "ערימה" ומה הוא "לא ערימה". המציאות קיימת בין אם נתאר אותה או לא, המילים הם רק כלי שמסייע לנו לתאר אותה. במציאות אין באמת דבר כזה "חיים" או "תודעה", אלא רק חלקיקים, אנרגיה, תנועה, מרחב וכו'. אין דבר כזה "עץ", עץ הוא שם שאנחנו נותנים לאוסף של תת-אטומים שמרכיבים אטומים שמרכיבים מולקולות שמרכיבות תאים שמרכיבים איברונים שמרכיבים איברים שמרכיבים את המערכת שאנחנו קוראים לה "עץ" - ושאנחנו מוצאים קוי דמיון בינה ובין מערכות דומות אחרות. בדיוק באותו אופן, "תודעה" היא סתם שם שאנחנו נותנים לאוסף של תופעות. מה הבעיה העקרונית למצוא קורלציה בינה ובין עולם החומר? עכשיו, אף אחד לא טען שהתודעה "שוות ערך" (מה זה אומר?) להרכב הכימי של המוח. למעשה, אני בספק אם יש מישהו בכלל שחושב כך. מה שאנשים רציונאליים סבורים בדרך כלל הוא שלמוח יש מבנה כלשהו (עם או בלי קשר להרכבו הכימי) שאחראי בצורה כזו או אחרת לפעולתו. אתה משתמש לדעתי בביטוי "הרכב כימי" בצורה שאינה הצורה המקובלת. "הרכב כימי" - כמו שאני מבין אותו - פירושו רשימת החומרים הנפרדים (DISTINCT) היוצרים יחד אובייקט כלשהו, ובדרך כלל קשורים ביניהם בקשרים כימיים כלשהם או בקשרים פיזיים או אחרים. אני לא חושב שכשמישהו משתמש במונח "הרכב כימי" הוא מתכוון למבנה של האובייקט, ולכן, יכולים להיות שני אובייקטים שההרכב הכימי שלהם זהה (נניח, מכונית ומכונה לייצור במבה) אבל המבנה שלהם שונה לחלוטין ולכן הם מתפקדים כמערכות שונות לחלוטין. לכן לא כל פגם במוח הוא בהכרח שינוי של "הרכב כימי". בקיצור, אין לי בעיה עם הטענה שלך שאיננו יודעים עדיין "מספיק" על התודעה כדי להתיימר לקבוע שאנחנו מבינים בדיוק את הקורלציה הקיימת בין המח עצמו (על הרכבו הכימי, מבנהו וכו') ובין מה שאנחנו מכנים "התודעה". אבל זה לא כל מה שטענת, אתה טענת ש [עלינו] להודות בזה ש"תודעה" לא יכולה להיות שוות ערך להרכב הכימי של המוח שלנו.. שוב, אף אחד לא טוען את זה, אף אחד לא טוען שמחשב הוא "שווה ערך להרכב הכימי שלו". כולם יודעים שהמחשב מורכב הרבה יותר מסתם אוסף רכיביו, כיוון שיש לו מבנה ייחודי ומורכב שעליו עמל מהנדס כלשהו כשתכנן את המעגל החשמלי שלו. יתרה מכך, כאשר נוספת על כך גם מערכת הפעלה כלשהי, נוסף רובד נוסף של מורכבות, כזה שאפילו לא בא לידי ביטוי באופן ישיר במעגלים פיזיים כלשהם אלא ממש ב-"אינפורמציה" נטו, כזו שבא לידי ביטוי (באופן פיזי) במשהו שבכל מצב אחר היה חסר כל תכונה או פשר -- סתם אוסף של "חריצים" על דיסק, או אוסף של "קיטובים מגנטיים" על איזה עיגול מתכת --- שפתאום מניב דברים מופלאים כמו STARCRAFT 2 או DIABLO 3 , או מכיל נניח תמונות, מסמכים, מוסיקה וכו'. האם אתה חושב שמישהו חושב שה-MP3 שהוא הוריד אתמול מהאינטרנט "שווה ערך" להרכב הכימי של הדיסק הקשיח שעליו הוא שמר אותו? אני פשוט לא מבין את הטיעון הזה של "הרכב כימי" - מה הוא רלוונטי בכלל. זה הלא ברור מאליו שהתודעה היא לא תוצאה של סתם "רשימת מכולת של חומרים כימיים", אלא של מבנה מוחי כלשהו. אבל העובדה שאיננו מבינים בדיוק כיצד עובד המח, אמורה להוביל אותנו למסקנה ש-מה? שהמח לא אחראי על התודעה? אם לא, אז יש ביננו כאמור סתם אי-הבנה שמקורה בשימוש שלך בביטוי "הרכב כימי". אני חוזר שוב למה שכתבת לאלב85: חומר הוא מוחשי וכמותי, תודעה לא, לא ניתן להגיד שהתודעה מורכבת מחומר, אחרת היה אפשר לעמוד על ההרכב של החומרים המרכיבים את התודעה. שוב, אינני מבין את המשפט הזה אם כך. החיים גם הם אינם "חומר", החיים הם תופעה, מערכת כלשהי, ש מבוססת על חומר, אבל היא אינה סתם חומר, אלא מבנה כלשהו של חומר. האם החיים הם לא "מוחשיים"? החיים הם סתם שם לאוסף של תופעות מוחשיות מאוד. גם התודעה, היא שם כזה, שם לתופעות מוחשיות מאוד. ואין ל-"הרכב החומרים" שום קשר לכך. יש לכך קשר רק למבנה המוח ולאופן פעולתו כ- מערכת . זה שאיננו מבינים כיצד מערכת פועלת, לא אומר שהיא לא מבוססת על חומר.

 

[רוקד עם שבלולים]

אם יותר לי להתערב,

אני רוצה לשאול איך כל זה רלוונטי לשאלה לגבי תודעה מלאכותית. האם הטענותשלך (שאגב, נשמעות לי מאד דומות לדברים שdeathcaster אומר, רק בדגשים קצת אחרים) פירושן שנוכל להגיע בעתיד הנראה לעין למחשבים בעלי תודעה ואינטיליגנציה כמו-אנושית או על-אנושית, או שלא?

 

[deathcaster]

האמת?

ההודעה האחרונה שלו דומה מאוד למה שכתבתי בעצמי... אז נראה לי באמת שהדיון (ביני ובינו) מיותר.

 

[Klayhamn]

ובכן

זה רלוונטי משום שאם איננו יודעים מה התודעה, או כמו ש-DEATHCASTER כותב (ואני מודה שאני באמת לא מצליח להבין למה הוא מתכוון) "אנחנו חייבים להודות שהתודעה לא שוות ערך להרכב הכימי של המוח" (מה שזה לא אומר) - אז זה יכול להשפיע על ההערכות שלנו לגבי הסיכויים או היכולת העקרונית בכלל להגיע נניח למחשבים בעלי תודעה או אינטילגנציה כמו/על אנושית. השאלה עצמה אגב הרי מחולקת לשתיים: שאלה טכנית ושאלה עקרונית. יכול להיות שמבחינה טכנית לא נצליח לחקות מח שיוצר תודעה (בין אם זה בגלל מגבלות טכנולוגיות, מחיר, וכו'), גם אם נגיע למסקנה שהדבר אפשרי מבחינה עקרונית. נניח, כיום אנחנו יודעים שזה אפשרי *עקרונית* להפוך קש לזהב (מימן הופך לשלל יסודות בשמשות כל הזמן), אבל לא אפשרי טכנית עבורנו, לפחות לא בעתיד הנראה לעין, ולא בצורה מבוקרת ומדוייקת, בין היתר על שום האנרגיה העצומה הדרושה לכך וחוסר היכולת שלנו להפיק כזו אנרגיה ולתעל ולמקד אותה בצורה כזו. כמובן שיכולים להיות פיתוחים מדעיים שישנו את התמונה, אבל אנחנו הרי מדברים על מה שאנחנו יכולים להעריך כרגע. אני מעריך שדווקא חיקוי של תודעה היא משימה אפשרית אפילו מבחינה טכנית, השאלה המרכזית היא האם עלינו ממש להבין קודם כל את התודעה שלנו לפני שנוכל/נצליח לחקות אותה, או שמא כדאי לנו להשתמש בנתיב קצת "פחות" מודע או מבוקר (כמו נניח DIRECTED EVOLUTION) כדי להניב דבר כזה. אני נוטה לחשוב שהאפשרות השניה היא הרלוונטית -- כלומר -- בגלל מה שמסתמן כאופייה הלא-לינארי והלא-מכאניסטי-טריוויאלי של התודעה, יש סיכוי שתהיה לנו יכולת טכנית לחקות את התהליך שיוצר מח שיוצר תודעה, לפני שתהיה לנו היכולת הטכנית ליצור מודל "שלם" וקוהרנטי של המח ופעולתו, כשממילא "מודל" כזה יהיה מסובך מדי להבנה אנושית (כלומר, בניגוד למעגל חשמלי, אולי לא ניתן יהיה לתרגם אותו לדיאגרמה כלשהי, אלא רק לאיזשהו מודל מתמטי סבוך).

 

[אלב85]

איך לדעתך אפשר לענות על השאלה הזאת?

הרי קודם כל צריך להניח שהמין האנושי יתקיים מספיק זמן. אחרי זה צריך להניח שהוא יתקיים מספיק זמן בצורתו הנוכחית ולא יתדרדר לאנרכיה בעקבות אסון טבע/השתלטות הדתות על העולם ורוב הידע המדעי ייעלם. אחרי זה צריך להניח שהמדע יעשה מספיק תפניות כדי להוביל אותנו לשם. למשל, אם אדם מסויים לא היה יושב ומדמיין אדם טס על קרן אור, האם עדיין היינו "תקועים" בפיזיקה הניוטונית? כי יכו להיות שלפריצת הדרך שתוביל ליצירת תודעה צריך "הארות" מסויימות שאולי בחיים לא יגיעו אליהם. אז טכנית, היינו יכולים לפענח את זה, אבל בפועל זה יכול לא לקרות. במילים אחרות, כדי לענות על השאלה הזאת, צריך לראות איזה דברים צריכים לקרות כדי שנגיע לשם (רק לדעת שהתודעה היא חומר לא יספיק מן הסתם), ואז לחשוב מה הסיכויים שהם ייקרו. כרגע זה שאלה חסרת תשובה, כמו, האם נפתח תאורייה שתסביר גם את הכבידה וגם את הקוואנטים. מן הסתם יש חוק שעומד בבסיסם, אבל קיומו בלבד לא מספיק כדי להניח שנגלה אותו.

 

[רוקד עם שבלולים]

לא.

השאלה איננה טכנית. אפילו אם נניח שהמין האנושי ימשיך להתקיים, ושהמדע האנושי ימשיך להתקיים בצורתו הנוכחית (למרות ש"צורתו הנוכחית" היא עניין של כמה עשורים לכל היותר, כי המדע האנושי משנה את צורתו יחד עם התרבות האנושית, אבל זה כבר סיפור אחר), ואפילו אם לא ינחת פה אסטרואיד עם דינוזאורים חייזריים שיהרגו את כולנו או יחזירו אותנו בתשובה - עדיין צריך לברר אם המשימה בכלל אפשרית. לא רק אפשרית מבחינה טכנית אלא אפשרית מבחינה מהותית. אתה איכשהו מניח שאם נתאמץ מספיק אז זה יילך. אני עדיין מאד ספקני.

 

[Klayhamn]

למה?

אם אפשר לשאול, מדוע אתה ספקני? למה תהליך שהתרחש מאליו בטבע אינו ניתן לשחזור ע"י האדם *מבחינה עקרונית* לדעתך? קשיים טכניים ברור שישנם, ואולי גם ימשיכו להיות, אבל מה כביכול ימנע מאיתנו להצליח ליצור תודעה? ושוב, קח בחשבון נניח שמלכתחילה איננו מחוייבים דווקא ל-"הנדסה" מן הסוג הרגיל, שבה אנחנו לוקחים אוסף של רכיבים , מהדקים אותם יחד, והופס יצאה לנו מכונה, אלא אולי כחלק מפיתוח שהוא רק "חצי מודע" ו-"חצי מכוון", ושחציו השני מתקיים ע"י אלגוריתם נפרד כלשהו שישפר/ישנה/יבנה את הדבר בהתאם לאותו מנגנון ברירה כפי שפעל על המח בעת התפתחותו האבולוציונית -- פשוט באיזו מסגרת סימולציה "רכה" נניח בתוך תוכנת מחשב?