בינה מלאכותית / גולם

[אלי ו.]

מה יש לך נגד תכנה?

הטכנולוגיה לא משנה לעניננו, עדיין דעתי היא שלמכשיר חשמלי או מכני אין רגשות/מודעות/נשמה

 

[vizini]

שום דבר, פרט לעובדה

שכאשר מדברים על תוכנה, בד"כ מתכוונים לתוכנה שרצה על מעבד סידרתי במודל החישוב של פון-נוימן. גם לדעתי, ל"תכנה" כזו לעולם לא תהיה מודעות. שונה הדבר לגבי מודל מקבילי אסינכרוני כדוגמת רשת נוירונים.

 

[אלי ו.]

סלח לי, אבל זה ממש לא משנה

אני מתמצא בשני הנושאים (רשתות נוירונים,עיבוד מקבילי), וזה ממש לא קשור. אבל היות וזה אינו קשור לנושא הדיון, בוא ונעזוב את זה. אשמח להסביר לך את הנושא בפורום אחר.

 

[vizini]

מתמצא?

כוונתך - אתה עוסק במחקר בתחום ויש באמתחתך אי אילו תארים בנושא? כי אם לא, אני מכיר כמה אנשים ש"מתמצאים" בתחום. ותאמין לי - זה קשור קשר הדוק.

 

[אלי ו.]

יש לי 2 תארים במדעי המחשב

דוקטוראנט (נצחי לצערי) במחשבים שהחל במכון סטיבנס בניו ג'רזי ונמשך עד היום בבר אילן. פיתחתי פרויקט שהשתמש ברשתות נוירונים עבור חברה קטנה בשם Chevron שמטרתו היה מיקום אופטימלי של תחנות דלק במזרח הרחוק. בנושא חישוב מקבילי פיתחתי קומפיילר שלוקח קוד בשפה דמויית פורטרן, מחפש אפשרויות לחישוב מקבילי לוגי בקוד סינכרוני, ומארגן אפשרויות עבודה במקביל לפי בגרנולציה אופטימלית לרמת המקביליות של המערכת. בשנים האחרונות אני מפתח מערכת פיתוח לסקריפטים לניהול שיחות טלפון לשוק הטלמרקטינג, גרסאות קודמות של התכנה שלי, זכו לפרסים בתערוכות תכנה וציוד לטלמרקטינג. כן, אני "מתמצא" קצת.

 

[vizini]

אני חשבתי יותר בכיוון...

שמתמצא זה " אני פרופסור לנוירוביולוגיה, או פיסיקה או מדעי המחשב ותחום התמחותי הוא רשתות נוירונים", כי אלה הם האנשים שבעיני מתמצאים,אבל ניחא. אז אם אתה מתמצא, למה לדעתך זה לא קשור?

 

[אלי ו.]

רשתות נוירונים יכולות לעבוד על כל

מחשב, מחשבים מקביליים יכולים לשפר את הביצועים, אבל לא להוסיף אפשרויות שלא היו קיימות קודם לכן. עיקר המודל של פון נוימן היה חלוקת אותו זיכרון לנתונים וקוד (להבדיל מהאניאק של אותה תקופה. אגב, יצא לי לפגוש אישה שעבדה על האניאק, קשה להאמין שהריצו על הדבר הזה את תכניות האטום) אני לא רואה את הבעיתיות של המודל, בכל המערכות המבוזרות שאני מכיר אין הפרדה כזו. (יש מערכות עם קאש שונה לקוד ולדאטה, אבל זה לא אותו הדבר) כל הרעיון של מחשבים מקביליים זה חיסכון בכסף, במקום טכנולוגיה אקזוטית (או בלתי אפשרית, לדוגמא בגלל מגבלות מזעור) זורקים כמה פרוססורים שיעבדו במקביל. במערכות מסוימות זה אפילו לא ישפר ביצועים בגלל המבנה הסריאלי של הקוד, קוד בסגנון של a=b+c d=a+e אי אפשר להריץ במקביל (החלק הראשוני של פרויקט של הקומפילר שלי היה למצוא קוד שיכול לרוץ במקביל ולבדוק אם אכן כדאי להריץ אותו במקביל) בסופו של דבר מהירות החישוב אינה משמעותית לעניננו, היא אולי תשנה לרובוט שצריך להגיב בזמן אמת, אבל לא לענין המודעות. רשתות נוירונים מצוינות ב"לימוד" ושיפור של החלטות לפי נתונים קודמים. במערכת של שברון הגענו לצפי בסדר גודל של +- 20% לעומת מערכות סטטיסטיות שצפו בסביבות +- 50% ועלו הרבה יותר (60-100 אלף דולאר לחישוב!! עד היום לא ברור לי מה עלה כ"כ הרבה כסף, אבל כיום יש קבוצה של מתמטיקאים שמאוד לא אוהבים אותי

) אני לא רואה איך מוסיפים לרשתות נוירונים "חיים". אני רחוק מלהיות מומחה לרשתות נוירונים, לקחתי קורס בתואר שני והשתמשתי ברשת נוירונים בפרויקט. ההתרשמות שלי היא שעיקר הבלבול בציפיות מרשתות נוירונים, זה שהן אינן מחקות את מבנה המוח, אלא יותר את צורת קבלת החלטות במוח שזה חלק חשוב, אבל לא כל מבנה המוח. אתה לא היחיד שנוקט בגישה הרומנטית כלפי בינה מלאכותית, זה תחום שמקבל כ"כ הרבה קרדיט בתקשורת ובקולנוע ששום הישג אמיתי לא יכול באמת להרשים את הציבור לאחר הציפיות שסרטי קולנוע כמו אודיסאה בחלל (או AI) מעוררים. (הרבה החבר'ה שתעסקים ב AI קצת מתוסכלים מכך, מה שהם לא יעשו לא ישתוה לסרטים משנות ה 70) בכל מקרה, לא רציתי להכנס לנושא הזה, מכיון שהוא אינו נושא הדיון. הדיון הוא עקרוני אם למכונה יכולה להיות מודעות עצמית, ומכאן להשלכות המוסריות אם יהיה זה מוסרי "להרוג" אותה.

 

[vizini]

אתה טועה

אתה מסתכל על מחלקות של בעיות חישוביות. אז נכון שמחלקות כאלה אינן רגישות למודל החישובי (ואכן, כל חישוב שמחשב יכול לעשות, גם אדם יכול לעשות ולהיפך) אבל לא זה העניין. מודעות היא תהליך מסויים שקורה במוח ולא חישוב. לכן, מחשב סידרתי יכול לבצע סימולציה טורית של תהליך זה, בדיוק כשם שהוא יכול לבצע סימולציה טורית של רשת נוירונים (אני מניח שלכך התכוונת כשאמרת שרשת נוירונים יכולה לרוץ על מחשב רגיל). אבל הוא אינו יכול לחקות את התהליך עצמו, אלא רק את תוצאותיו. (זה דומה לסימולציה של פיצוץ גרעיני - בסיום הסימולציה יש אוסף של נתונים שמאפיינים את תוצרי הפיצוץ, אבל שום דבר לא ממש התפוצץ...) הדבר מודגש עוד יותר כאשר הרשת אינה סינכרונית. במצב כזה, אפילו סימולציה שלה לא ניתן לבצע, ולכן אי אפשר לומר האם היא מהווה מודל חישובי שקול למחשב טורי.

 

[אלי ו.]

אנחנו ממש סוטים מהנושא

וחבל. לא התעסקתי בסימולציות של פיצוצים אבל גם שם אני לא מבין את החובה בעיבוד מקבילי (מלבד בחיסכון בזמן) אבל אין לי בעיה לקבל את דעתך. בנושא המודעות אני לא יודע על מה אתה מדבר, ודי בטוח שגם אתה לא, אבל זה לא ממש משנה לעניננו. אמרת שיש לך רעיון לבדיקות מודעות, אז יאללה, בוא ונדבר על זה.

 

[אלי ו.]

איזה ענין יש לי לשכנע מכונה

אני כבר מתחיל לאבד ענין לשכנע אותך. אגב, אותו מוח מלאכותי, לא יורכב מתוכנה וחומרה? הוא יהיה מחשב ביולוגי? גם אז הוא עדיין יהיה מכונה. מספיק עם הרומנטיקה, מכונה זה מכונה זה מכונה. אתה הולך לכיוון של "אני מבין תוכנה, ואני מבין חומרה אז זה לא יעבוד" בוא ונחשוב על משהו סופר סופר אקזוטי שאנחנו לא מבינים, זה בטוח יעבוד. בפורום הזה הטכנולוגיה לא מענינת, לא אכפת לי אם מדובר במחשב קומודור 64 או סופר מחשב עם 64,000 פרוססורים ביולוגיים שעובדים במקביל, וכל אחד הוא צומת ברשת נוירונים. זה חסר משמעות לעניננו. השאלה שלך היא האם תהיה למכונה הזו נשמה. אני אומר שלא!

 

[vizini]

זכותך לומר שלא.

אם לאמירה זו יש איזו משמעות - זו כבר שאלה אחרת. אני מעדיף לדבר על מודעות, ולא על נשמה. אני חושב שלמכונה שבנויה נכון תהיה מודעות. אני, בניגוד לך, יכול לבסס (אם גם לא להוכיח) אמירה זו, על ניסויים ותצפיות.

 

[אלי ו.]

אשמח לשמוע הצעה לבדיקת מודעות

אולי כך נתקדם בדיון

 

[vizini]

כבר היתה הצעה כזו - מבחן טיורינג.

הטענה המקורית של טיורינג היתה שמודעות היא תנאי הכרחי לעבור את מבחן טיורינג.

 

[masorti]

ההצעה נפסלה כבר.

ואם הניסוח שלך נכון, אז הטענה המקורית של טיורינג היתה קישקוש. מבחן טיורינג יכול לכל היותר לקבוע האם מכונה מבצעת סימולציה מוצלחת של מודעות לגבי צופה מבחוץ, או שיש לשלוח את המתכנת למקצה שיפורים. מבחן טיורינג לא אומר דבר על השאלה האם המכונה אכן מודעת.

 

[vizini]

ללא סיבה טובה מספיק.

אגב, הנה הקישור למאמר המקורי של טיורינג: http://www.abelard.org/turpap/turpap.htm אתה מזהה את עצמך שם?

 

[masorti]

הסיבה היתה מצוינת.

מכיון שגם אתה וגם טיורינג אתאיסטים, ממילא מבחינת שניכם התהליך הפיזיולוגי הוא מהות הכול. לכן גם טיורינג חשב שמחשב שמסמלץ העברת דחפים חשמליים שמופיעים במוח בזמן מודעות + התגובה לשאלות של בוחן מסמלצות מודעות - אז נוצרה מודעות. בולשיט. הזרמים החשמליים רצים במערכת, ובכל זאת המחשב לא מודע לעצמו או למעשיו.

 

[vizini]

ממש סיבה מצויינת

"הזרמים החשמליים רצים במערכת, ובכל זאת המחשב לא מודע לעצמו או למעשיו. " אני יכול לומר אותו דבר עליך...

 

[תיאולוגיה]

ביום שבו מחשב יתאבד

בגלל דיכאון או תחושות חידלון קיומי, אז נתחיל לקחת אותו בתור יצור מודע. במקרה הטוב מחשב יכול להיות משווה לחיית בית

 

[vizini]

זה לא יעזור.

גם אם מחשב יתאבד, מסורתי לעולם לא יסכים שזה בגלל דיכאון או תחושת חידלון קיומי. הוא יטען שזו רק סימולציה של תחושה כזו, אבל לא תחושה אמיתית. התאבדות היא פעולה חיצונית. דיכאון או תחושת חידלון היא תחושה פנימית של מצב תודעה. כל הויכוח הוא אם באמצעות פעולות חיצוניות ניתן להסיק על תחושות פנימיות.

 

[vizini]

איך מתקשרת הנשמה עם המוח?

מדוע לא מתקשרת הנשמה עם המוח במצב של חוסר הכרה? מצבים מסויימים של שינה? התקף אפילפסיה? מדוע מתקשרת הנשמה רק עם מוח? "כמה" מוח דרוש כדי לתקשר עם הנשמה?