1984 של אורוויל

[BravoMan]

1984 של אורוויל

היות ושקט כאן, וניסיון הגמילה שלי מהפורומים די כשל, החלטתי לפתוח דיון בנושא קצת שונה ממה שיש כאן בד"כ:

רומן המד"ב "1984" של ג'ורג אורוול.

עבר יותר מעשור מאז שקראתי את הספר הזה, אבל חלק מההודעות בשרשור על תאוריית הסימולציה גרם לי לחשוב שוב כמה בדיוק מהתחזיות שבספר הזה התגשמו.

אם חושבים על זה בזהירות, למרות שנועד בפירוש להיות בדיוני, הספר הזה חוזה את העתיד - ההווה שלנו, הרבה יותר מדויק מכל נבואה בתנ"ך!

מדברים הרבה על "האח הגדול", אפילו עשו מזה תוכנית ריאליטי שמשדרת 24/7.
אבל אני כלל לא מתכוון לזה.
אני רוצה לדון בנקודות פחות מוכרות לציבור הרחב מהספר, או לפחות כאלה שלא נתקלתי באזכור שלהם מחוץ לדיונים ספרתיים:

• "משרד האמת" - הגיבות הראשי של הספר, ווינסטון סמיט, עובד ב-ministry of truth.
  התפקיד שלו זה "לתקן את ההיסטוריה".

כשקראתי את הספר, הראיון נשמע לי אבסורדי: כל פעם שרוצים לשנות פרט אוספים את כל הספרים ואת כל העיתונים, מתקנים טקסט לפי תכתיב של איזה רודן, ומדפיסים גרסה חדשה?

אבסורד!

אבל אורוול לא יכל לדמיין שנייר ייכחד מחיינו.
לפחות, ככל שזה נוגע לידע ולחדשות.

ההבטחה של "משרד נטול הנייר" של שנות ה-70 לא ממש התגשמה - כל עסק עדיין מדפיס ימבה ניירת, אבל בחיי היום יום מתי פעם אחרונה טרחתם לקרוא עיתון אמתי או לחפש מידע באינציקלופדיה מודפסת?
אפילו כשמחלקים אותם בחינם, רוב האנשים לוקחים עיתונים רק אם הם צריכים את הנייר לנקות חלונות או משהו דומה.
(אגב, בספר, גברת אחת הוסגרה לרשויות בגלל שעטפה דגים בעמוד עיתון עם תמונה של האח הגדול)

וכאן נפל לי האסימון: לא רק שכמעת כל המידע שאנו צורכים היום נשמר בצורה דיגיטלית, מה שאומר שלשנות אותו זה הדבר הכי קל בעולם, אלא הוא גם לא נשמר בבית שלנו.
הוא נשמר אי שם במקום לא ידוע, על מחשב של ארגון זר כזה או אחר, שאין לנו כל שליטה ובקרה עליו.

היום, לשנות היסטוריה סטייל אורוויל לא רק אפשרי וקל, אלא ממש נעשה.

אפילו בלי כוונת זדון, אתרים כמו ynet משנים קצת את נוסח הכותרת, לפעמים מספר פעמים ביום, ככל שידיעה מסוימת נדחפת למטה בסדר העדיפויות.

ההודעה הזו כבר ארוכה מספיק, אז לא אוסיף את יתר הפריטים מהספר שלדעתי קיימים היום במציאות, אלא אבקש את דעתכם:
מסכימים איתי?
האם אתם חושבים שיש או ימצא לזה פתרון?
האם אתם מכירים עוד פרטים מהספר שקמו לחיים כפי שאורוול חזה, ואף בצורה חזקה ו-"משופרת" פי כמה?

 

[SupermanZW]

אנחנו כבר חיים בעידן האח הגדול והרוב לא זהירים מספיק

בסין זה כבר הגיע לשלב הקיצוני ביותר שמאפשרת הטכנולוגיה הקיימת ושאר העולם גם מכרסם בהדרגה יותר ויותר בחירויות הפרט ובפרטיות.

להערכתי לא ימצא פתרון כי אנשים לא מוחים והמצב כבר עכשיו רע מאוד מבחינת פרטיות.

יש מספר פגיעות בפרטיות שאנשים מאפשרים בהיסח הדעת, דברים שטכנולוגית לא היו אפשריים בזמנו של אורוול, כמו למשל פונקציית המיקום בטלפונים סלולריים, כמו כן איסוף העוגיות של דפדפנים, שימוש בIP סטאטי וכדו', יש גם כאלה בהם אין לנו שליטה כגון מצלמות רחוב שמחוברות למערכות עם אלגוריתמים לזיהוי פנים ובסין אפילו זיהוי ביומטרי, הIOT מאפשר השתלטות מרחוק על מכשירים ביתיים שמשתמשים בטכנולוגיה הזו ומעקב אחר הדיירים. יש קולבים בשירותים ציבוריים אשר אינם נמצאים שם כדי לתלות עליהם מעילים אלא יש בהם מצלמות זעירות ומיקרופונים זעירים אשר עוקבים אחר אנשים שנמצאים בשירותים ומקליטים אותם. יש כמובן גם שיחדש בדיוק כפי שחזה אורוול, היום מכנים את זה בכינוי המכובס Politically Correct, כמו כן מוחקים וחוסמים אנשים שמגיבים נגד פעולות הממשל בדפי הפייסבוק של מיישמי או מפרסמי המדיניות הזוכה לביקורת.

בקיצור, האח הגדול הוא משחק ילדים לעומת מה שהולך להיות ואפילו עכשיו המצב גרוע בערך כמו המתואר בספר 1984.

 

[BravoMan]

אני כמעת מסכים איתך למעט דבר אחד:

אני לא חושב שהמצב בסין גרוע יותר מהמצב בארה"ב ומדינות "חופשיות" אחרות.
&nbsp
ההבדל היחיד הוא מי מרגל:
בסין זה בעיקר הממשל, אבל בארה"ב ושאר העולם אלה חברות מסחריות.
FB, Google, Apple מרגלות אחרי כלל האזרחים (בנינו, מי לא מחובר לפחות לאחת מאלה?) לא פחות מכל ממשלה.
&nbsp
ההבדל היחיד הוא שבניגוד לסינים שמצייתים לממשל מחשש מרשויות החוק, אנשים מנדבים את כל המידע שלהם לחברות האלה.
&nbsp
קראתי שבגרסה החדשה של השעון של Apple הדופק ימדד כל הזמן, במקום רק כאשר המשתמש רוצה.
גם האקסלרומטר יעבוד קבוע, ונוסף חיישן למד EKG.
&nbsp
הם טעונים שזה כדי להציל אנשים ממצבי חירום, למשל נפילות.
וטכנית הם גם צודקים.
הבעיה כמובן המימוש - כל המידע נאסף ונשלח החוצה.
&nbsp
אכן, כ"כ פנימה לקרביים (תרתי משמע), אורוויל לא דמיין שהאח הגדול ייכנס.

 

[חנוך25]

שיכתוב היסטוריה תמיד היה. פייק ניוז תמיד היו.

השיא היה כנראה באמת בעידן המדיה ההמונית שלפני האינטרנט. קרי העידן של כמה מאות שנים של עיתונות ואח"כ טלויזיה.
אבל דוקא היום ביזור המידע באינטרנט, כולל תיעוד כל מה שזז בטלפונים מקשה על שיכתוב ההיסטוריה/החדשות. הרשת מלאה במידע ובפרשנויות שונות וזה מפוזר במאות אלפי שרתים, כולל במחשבים ביתיים.

הבעיה עם האח הגדול היא לא שיכתוב ההיסטוריה אלא אבדן הפרטיות והעברת ההחלטות האישיות לאלגוריתמים חכמים שמחזיקים בביג דאטה. זה למעשה יכול לחסל את הדמוקרטיה כפי שאנחנו מבינים אותה היום. אבל זה תהליך וולונטרי. זה קורה בלי כפיה (בינתיים).
קראתי לאחרונה את הספר החדש של הררי "21 מחשבות על המאה ה21" והוא עוסק בשאלות האלה. אני לא מסכים איתו בהרבה דברים - בעיקר במקומות שהוא עושה חלוקה מרקסיסטית של העולם תמיד לאיזשהם "מעמדות", אבל מסכים איתו לגבי הסכנה לדמוקרטיה בנוכחות האלגוריתמים החכמים

 

[BravoMan]

אני לא בטוח למה אתה מתכוון לכך ש-"אלגוריטמים חכמים"

מסכנים את הדמוקרטיה.
&nbsp
הסכנה שאני רואה ביכולות העיבוד הקיימות, היא היכולת לרגל אחרי כל אחד בצורה פרטנית שאורוול תיאר:
בספר שלו, בן אדם היה צריך להסתכל על כל מצלמה ולהקשיב לכל מיקרופון, וזה כמובן לא מציאותי, משושם שזה מצריך כמות "משגיחים" שווה לכמות של אנשים שנמצאים תחת השגחה.
&nbsp
אבל היום, כשמחשב יכול לזהות את המשמעות של מה שאדם אומר בטלפון או כותב באמצעי אלקטרוני, או לעקוב אחרי אדם ספציפי דרך מצלמות מרובות לאורך מסלול בלי התערבות אנושית ובלי להתבלבל בינו למישהו אחר, מעקב אישי ברמה "סיטונאית" סטייל אורוול הוא מציאות.
&nbsp
למעשה, בעיר אחת בארה"ב הלכו עם זה צעד קדימה:
http://www.sciencemag.org/news/2016/09/can-predictive-policing-prevent-crime-it-happens
&nbsp
או שאולי בעצם זה מסוג הדברים אליהם התכוונת?
&nbsp
בכל אופן, הביזור שאתה מדבר עליו הוא יותר תאורטי מאשר מעשי.
בפועל, התקשורת שלנו עוברת כמעת באופן בלעדי דרך 2 גופים: Google או Face book.
&nbsp
נכון, יש מלא אנשים באינטרנט שמחזיקים שרתים פרטיים, יש מלא אתרי חדשות, יש הכל...
רק, איך האדם הממוצע יגיעה לזה?
הרי אף אחד לא באמת רושם היום כתובות של אתרים.
אפילו ב-"סימניות" של דפדפנים לא משתמשים כבר, מאז שיש לכל דפדפן את "הבר החכם".
&nbsp
מרגע שדפדפנים התחילו לשלב חיפוש אוטומטי בשורת הכתובת, יותר קל לתת ל-Google להדריך אותנו ליעד מאשר לשמור או לזכור כתובת אתר ולגלוש ישירות.
&nbsp
פורומים כמו תפוז הולכים ונכחדים, למעת אלה שמשמשים לתחומים מאוד ספציפיים, כמו פורומים תמיכה של חברות.
למה לטרוח לפתוח משתמש באתר כלשהו כשכולם כבר ב-FB, מאנשים פרטיים עד לעסקים?
&nbsp
הבעיה עם רוב הכלים הטכנולוגים, אם לא עם כולם, היא שהם בקלות יכולים להפוך לחרב פפיות:
נכון, כל אחד היום יכול לצלם כל אירוע בטלפון שלו, אבל זה גם אומר שכל אחד יכול לערוך ולבחור מאיזו זווית לצלם.
כאן בארץ אנחנו נחשפים רבות לצילומים של ארגונים בעלי אינטרסים שכביכול מגיעים מאזרחים מודאגים, אבל נערכו בצורה כזו שהם מציגים תמונה הפוכה ממה שקרה באמת.
&nbsp
בחלק מהמקרים, ארגון בעל אינטרסים מנוגדים יציג סרטון אחר שמציג את ההפך.
אבל לא תמיד, וגם הסרטון השני יהיה ערוך, ועכשיו לך תדע היכן האמת.
&nbsp
עוד דבר שלא חשבתי עליו עד שראיתי אותו באיזו סדרה.
שם אומנם תואר מקרה בדיוני, אבל השיטה מציאותית ויכולה לעבוד היטב:
כאשר מפורסם ברשת סרטון שמראה משהו שלמישהו יש אינטרס להסתיר, במקום לנסות להסיר אותו, מתחילים להעלות מלא עותקים שלו עם שינויים מינימליים בכל איטרציה.
&nbsp
בסוף, הסרטון המקורי הוא מחט בערמה של שחט, ורוב האנשים נתקלים בגרסה מעוותת שמסטירה את הפרטים שרצו להסתיר, מבלי שאדם ממוצע יקלוט בכלל שמנסים להסתיר ממנו משהו.
&nbsp
בסדרה The Fined (המחפש?) https://www.imdb.com/title/tt1943524/?ref_=nv_sr_1
השתמשו בזה כדי להסתיר ווידאו שצילם כלי תעופה סודי שכולם חשבו שהוא חללית חייזרית.
&nbsp
היום, חובבי קונספירציות כמו אלה שמאמינים שנחיתות על הירח מזויפות או שפיגוע התאומים בוצע ע"י ממשלת ארה"ב מפציצים את הרשת בצילומים ערוכים של 2 המקרים ההיסטוריים הללו, שיכולים די בקלות להפיל בפח אדם מן השורה.
&nbsp
אז מצד אחד זה שכל אחד יכול להיות מקור מידע מגדיל את החופש ומקשה על צנזורה, מצד שני זה מאוד מקשה לברור מקורות אמינים ופתח דרכים חדשות לשקר, לזייף, ולעוות כדי להשיג מטרה כלשהי...
&nbsp
נ.ב.
אני שונא את המושג "פייק ניוז".
זה שקר שהופץ ע"י משטר טראמפ, המשטר הגרוע ביותר בתולדות ארה"ב ע"מ להימנע מביקורת ציבורית.
&nbsp
כן, בעבר היו מקרים של ידיעות מוטעות, או אף שקריות בתקשורת, אני לא אומר שלא, אבל ספציפית "פייק ניוז" הוא מונח חדש שפשוט זורקים אותו בשנתיים שלוש האחרונות בכל פעם שמופיעה ידיעה שמישהו לא אוהב, אבל גם לא יכול להפריך.
&nbsp
למשל, היית לפני יומיים כתבה על מופע בידור מופרד מגדרית שמימון ממשלתי בנתיבות, שהתקיים בניגוד לחוק.
העירייה הגיבה "פייק ניוז", אבל יש תיעוד ווידאו מהמופע - רואים בבירור שהוא התקיים, ורואים בבירור שהיית מחיצה מפרידה, וגם רואים בבירור שנשים מאחורי המחיצה לא יכלו לראות את המופע אלא רק לשמוע.
&nbsp
אז מה בדיוק פייק?
לטענת העירייה - הנשים רצו זאת כך בדיוק כמו הגברים.
&nbsp
סבבה, אפילו אם נניח שזה נכון, עדיין יש כאן עברה על החוק, והדיווח תקין. אז מה פייק?

 

[חנוך25]

הרעיון הוא שאלגוריתמים חכמים לא "מרגלים".

כלומר - איסוף המידע הוא לא בניגוד לרצונינו. אנחנו מנדבים את המידע מרצון וברצון. למה? כי זה עושה לנו את החיים יותר נוחים ובקרוב אולי גם יותר ארוכים ויותר בריאים.
שיקול הדעת האישי שלנו ילך ויאבד משמעות כי אינטלגנציה מלאכותית עם ביג דאטה תתן לך תשובות יותר טובות ממה שאתה תיתן, בגלל מגבלות הידע שלך.

 

[BravoMan]

זה נקרא מומחיות, וזה היה קיים הרבה לפני שמישהו חשב על מחשב.

קודם כל, כשאני אומר "ריגול", אני לא מתכוון איסוף מידע חשאי בניגוד לרצון, אלא על כך שמישהו אשכרה מסתכל ובודק מה אתה עושה, או אומר.
&nbsp
גם אם הם רואים את זה כי אתה מאפשר, זה שהם מסתכלים וממתינים לרעות ש-"תעשה צעד לא נכון", זה כבר סוג ריגול עליו מדובר ב-1984.
&nbsp
גם שם היו אזרחים שנידבו מידע. אומנם לא בשם הנוחות אלא מתוך הרגשה של פטריוטיות, אבל זה לא כ"כ משנה.
&nbsp
אני לא חושב שזה ש-AI כלשהו יכתיב לנו מה לעשות במקרים ספציפיים קשור בכלל לעניין הדמוקרטיה או החופש.
&nbsp
כשאנחנו חולים, רובנו הולכים לרופא, כרגע בשר ודם, ועושים את מה שהוא אומר לנו.
כשאנחנו רוצים לעשות רווח מכסף שצברנו בעמל כפנו, לרוב נפנה ליועץ השקעות שיגיד לנו איך להשקיעה את הכסף.
&nbsp
בני אדם הסתמכו על דעות של אחרים שיודעים יותר טוב מהם עוד מימי קדם, והסיבה לכך היא שרוב הזמן זה עובד לטובתנו.
זה נכון, שאפילו הרופא הכי טוב בעולם יכול לשגות ולהרוג מטופל, אבל מבחינה סטטיסטית, להישמע להוראות הרופא הוא הסיכוי הטוב ביותר לאדם הממוצע לשרוד מחלות או פציעות.
&nbsp
מעניין אם יש מחקר שבדק כמה אנשים נפגעו או מתו בגלל שסירבו לשמוע או אפילו להתייעץ עם רופא, מול כמה נפגעו או מתו בגלל רשלנות או טעויות של רופאים...
&nbsp
מקרה ידוע הוא של סטיב ג'ובס, שסירב לעבור ניתוח למרות שגילו את הסרטן שלו בזמן.
קראתי היכשהו שהוא סירב שיתעסקו עם הגוף שלו, וכולנו יודעים היכן הוא עכשיו...
&nbsp
אם למכונה יש דרך טובה יותר לדעת כי המכונה יכולה לעבד יותר מידע מבן אדם כדי למצוא את התשובה הנכונה, אז מה רע?
בשביל זה בנינו אותה.
כל עוד השימוש הוא באמת לשיפור רמת ו\או איכות החיים שלנו, זו לא בעיה.
&nbsp
הבעיה מתחילה כשמנצלים את הכוח הזה לרעה.
&nbsp
אגב, זה אפילו לא מחייב "אינטליגנציה" או אלגוריתמים מתוחכמים מדי.
&nbsp
כש-Waze אומר לך איך לנסוע, רב הזמן תשמע לו, אבל Waze הוא לא AI.
הוא אפילו לא מתוחכם במיוחד מבחינה טכנולוגית. הוא פשוט "רואה" את העומסים.
&nbsp
אם היית לך בראש אותה תמונה, וודאי היית מחליט מרצונך החופשי לנסוע באותו נתיב, אבל היות ואין לך, אתה מחליט להישמע למכונה מטומטמת לחלוטין.
ולרוב זה משתלם לך.
&nbsp
אבל, אני לא חושב שזה מסכן את הדמוקרטיה, עד שמישהו לא יחליט לנתב אותך למלכודת בעזרת היישום הזה.
ולא, זה לא ראיון שלי - זה משהו שעשו בסדרה "רובוקופ" משנות ה-80.
סדרה שלמרבה הפלא חזתה במדויק רכב עם מסך שמאפשר קבלת הוראות ניווט דרך האינטרנט, יותר מעשור לפני שקיבלנו יישום ניווט ראשוני בשוק האזרחי.

 

[חנוך25]

הסכנה לדמוקרטיה היא שה ai יצור נטיה גוברת

לחזור למודל קבלת החלטות ריכוזי. קשה לשים קו מפריד ברור בין החלטות אישיות להחלטות שנוגעות למדיניות ציבורית.
הררי בסיפרו מציין נכון לדעתי, שההצלחה של הדמוקרטיה הליברלית הקפיטליסטית לעומת מודל ריכוזי קומוניסטי היא לא הצלחה של ערכים מופשטים כמו חופש הפרט, אלא הצלחה של מודל קבלת החלטות מבוזר לעומת מודל קבלת החלטות ריכוזי.
אם המודל הריכוזי היה משיג בריאות יותר טובה, רמת חיים יותר גבוהה ויותר שפע באופן כללי, אף אחד לא היה מתווכח איתו.
לai יש פוטנציאל להשיג זאת עבורנו דוקא ע"י חזרה למודל ריכוזי יותר.
אם ויתור על בחירות דמוקרטיות והעברת סמכויות לאלגוריתמים חכמים בעניינים של מדיניות ציבורית תניב תוחלת חיים יותר גבוהה - מי יעיז להתנגד לזה? אולי כן נעיז. זאת שאלה פתוחה.

 

[BravoMan]

אוקיי, אתה צודק, יש כאן "סכנה" לדמוקרטיה, אבל לא מהסוג

שאני חשבתי עליו.
כלומר, לא ממש סכנה:
אתה מדמיין עתיד שבו יש AI ברמה גבוהה מספיק להחליף ממשלה.
&nbsp
לא השתלטות דיקטטורית של אדם או קבוצה קטנה אינטרסנטית.
&nbsp
יש אמרה ידועה:
דמוקרטיה היא לא שיטת הממשל הטובה ביותר, היא רק הטובה ביותר שיש שלנו היום.
אז מה רע שנמצא משהו יותר טוב?
&nbsp
וגם, אני לא חושב שדמוקרטיה היא קבלת החלטות מבוזרת.
בטח לא בצורה שבה היא מיושמת בישראל.
&nbsp
בסופו של דבר, כל דמוקרטיה בעולם היא ייצוגית, כלומר, זה לא שקבלת ההחלטות מבוזרת על כלל הציבור, אלא שלציבור יש דרגה מסוימת של שליטה היכן תתרכז קבלת ההחלטות.
&nbsp
אבל בסופו של יום עדיין יש פירמידה, שבקוקוד שלה יושב איזה ביבי או טראמפ, ובמקרה של ישראל, גם מקום להתברג לעוד כל מיני ליצמנים ודרעים ולסחוט באיומים ובצורה לא דמוקרטית לחלוטין נטייה לכיוון מסוים.
&nbsp
אחד היתרונות של AI, ולמעשה מכונות בפרט, זה שהן תמיד עושות את מה שתוכננו לעשות.
בניגוד לבני אדם שיש מליון ואחד סיבות למה לא ימלאו את התפקיד שלהם, גם אם נשבעו לעשות זאת, מכונה תמיד תבצע את שתוכננה לעשות.
&nbsp
ואם זה נשמע לך כאיל הייתי שמח להחליף את ממשלות העולם במחשבים, אז...
אתה צודק!
הרעיון התאורטי בממשלה נבחרת היא שהיא אמורה לעבוד בשביל אזרחים, למלא תפקיד ניהול חיוני שאנו צריכים, בניגוד למשל למונרכיה בה האזרחים משרתים את המלך (או לדת בה משרתים אל ונציגיו).
&nbsp
אבל המצב בשטח הוא שגם בדמוקרטיות הכי נאורות השליט הוא עדיין שליט שהציבור עובד בשבילו ולא הוא עובד בשביל הציבור.
כלומר, השיטה הדמוקרטית אולי יותר טובה ממה שהיה קודם, אבל לא באמת מוצלחת.
בעצם, לפעמים היא אפילו גרועה יותר, כי היא נותן אשליה של חופש ומונעת מאנשים לרצות שינוי.

 

[חנוך25]

יש ביזור בדמוקרטיה. יש ריבוי מוסדות,

יש הפרדת רשויות, יש חופש לבחור(+-) מה לעשות בחיים ובמה להשקיע כסף. יש מלכ"רים, יש חופש דיבור והתארגנות. הכל יחסי כמובן.

להחליף את הממשלה באלגוריתמים חכמים? ומי יכתוב את האלגוריתמים? ואיזו השפעה תהיה לציבור על האלגוריתם(כאשר האלגוריתם לא עומד למבחן של בחירות)? האם אנחנו אמורים לסמוך על מהנדסי תוכנה בלתי נבחרים ועל תוצריהם יותר מאשר על נבחרי ציבור שאפשר להחליפם? האם מהנדסי התוכנה עצמם יכולים להבטיח שהמכונה הזאת לא תהפוך לקופסא שחורה שאף אחד לא מבין איך היא עובדת?

 

[BravoMan]

אחלה סלט עשית פה...

מה זה בדיוק "ריבוי מוסדות"?
יש את הזרועה המחוקקת, הזרועה הזרועה השופטת, והזרועה המבצעת.
&nbsp
בישראל ובארה"ב, רק הזרועה המחוקקת נבחרת ע"י הציבור, וגם זה מתבצע בצורה עקיפה.
בנוסף, 2 הזרועות האחרות למעשה כפופות לחוקים שהזרועה המחוקקת מעבירה, גם אם יש להן חופש פרשנות מסוים, עדיין, בסופו של דבר "החלטות" - ברמה שאנחנו מדברים עליה, מבוצעות במקום אחד, ע"י קבוצת אנשים מאוד ספציפית.
&nbsp
עכשיו, צר לי לבשר לך, אבל אתה לא משתמש נכון במילה "אלגוריתם"

https://www.youtube.com/watch?v=G2y8Sx4B2Sk
&nbsp
אני מבין את כוונתך, אז לא תיקנתי אותך עד כה, אבל "אלגוריתם" הוא סדרת פעולות שדרושה כדי להשיג מטרה מסוימת או לפתור בעיה.
גם כשאתה מלמד את הילד שלך איך לקשור שרוכים של נעל, אתה למעשה מלמד אותו אלגוריתם.
&nbsp
אין אלגוריתמים חכמים או טיפשים.
&nbsp
אז אם אנחנו מדברים על מערכת ממוחשבת שתפקידה להחליף את הממשלה, או לפחות לבצע חלק מהדברים שהממשלה עושה, אנחנו צריכים לחשוב מה בדיוק המטרות, ולמצוא את סדר הפעולות או החוקיות לפתור אותה.
&nbsp
איך עושים זאת? שאלה טובה. אני די בטוח שברגע שתהיה לנו שיטה טובה לעשות דבר כזה, נתחיל להיפתר מהפוליטיקאים.
&nbsp
ולגבי אותם מהנדסי תוכנה לא נבחרים:
אתה סומך על אנשים לא נבחרים כל יום וכל דקה, אתה פשוט לא חושב על זה.
&nbsp
אתה סומך על האדריכל, המהנדס, ופועלי בניין שבנו את הבית שאתה גר בו, אבל אני די בטוח שאין לך מושג מי האנשים האלה בכלל.
אתה סומך על פקחי הבניה שאישרו שהבניין שלך תקין, ולא יקרוס עליך פתאום מחר בבוקר, אבל גם את הפקחים האלה אתה לא מכיר.
&nbsp
אולי אם אתה גר בבית פרטי שבנית לגמרי בעצמך מצבך שונה, אבל אם כמו רוב התושבים במדינת ישראל רכשת דירה או בית מוכנים, אז אין לך מושג מי יצר את זה, אתה לא בחרת אותם, ואם כבר - אז גם אין לך את הידע הטכני הנחוץ כדי לוודא בעצמך שהתוצר שלהם שרכשת באמת אמין.
&nbsp
במקרה הטוב בחרת מה לקנות, אבל יש לי הרגשה שמקצועיותו של מי שיצר את זה לא היית שיקול בבחירה שלך, וגם לא היית לך שום דרך לבדוק.
&nbsp
ואותו הדבר תכף לכל מה שאתה רוכש - החל מהרכב שלך, ועד למלפפון בסופר:
אתה אולי יכול לבחור את המוצרים שאתה מתקיים מהם, אבל בפועל אין לך מושג מי גידל את המלפפון שאתה אוכל ואיך הוא עשה זאת, ואין לך מושג מי באמת בנה את הרכב שלך, או מי הכין אותו לעליה לכביש כאן בארץ לפני שהסוכנות מסרה לך אותו.
&nbsp
אתה לא בחרת אף אחד מהאנשים האלה, ועם זאת חייך תלויים במה שהם עשו.
שמת פתק בקלפי למהנדס שתכנת את המחשב שאחראי על פעולת כריות האוויר באוטו שלך?
&nbsp
אז מה נטפלת למהנדסי תוכנה מסכנים?
&nbsp
הם בסה"כ צריכים לבנות מערכת שתחלק תקציב לפי דרישות.
(סתם כדוגמה לאחת המערכות שדרושות כדי להחליף ממשלה)
&nbsp
אנחנו יודעים שמהנדסים יכולים לבנות מערכות כאלה בצורה טובה, גם כשאף אחד לא שם להם פתק בקלפי.
אחרי הכל, גם משרד האוצר עובד עם "אקסל", וגם כל אחד אחר שמגלגל כסף, ולא עושה את החישובים האלה בראש או על דף נייר.
&nbsp
עכשיו השאלה רק אם לאקסל יש אינטרס לשמן את הביטים שמרכיבים אותו, או שהוא יקבל את התנאים ויבצע את החלוקה בלי קשר לאינטרס עצמי?
&nbsp
החלפת חלק מתפקידי הממשלה במערכת ממוחשבת שתנהל משאבים לא תיקח ממך את החופש להשקיע את כספך היכן שתרצה.
בדיוק כפי שקיומם של יועצי השקעות אנושיים, ורגולטור בשר ודם לא ממש מונע ממך את זה כיום (כאמור, ה-+\- שציינת משמעותי מאוד, נסה להשקיע במפעל סמים ותראה

).
&nbsp
זה גם לא ימנע ממך את חופש הדיבור או ההתארגנות, בטח לא יותר מאשר הממשל היום, שאפילו בישראל החופשית ודמוקרטית יכול להכניס אדם לכלא על פרסום תמונה של חיה בפייסבוק.
https://www.ynet.co.il/articles/0,7340,L-4896845,00.html
&nbsp
אני לא מדבר כאן על עתיד של Matrix או Terminator שבו יש איזו ישות ממוחשבת ששולטת בכולנו ממש כמו רודן אנושי רגיל.
&nbsp
אני מדבר על כך שיש דרך יותר טובה לבצע ניהול לוגיסטי ולהעריך אסטרטגיות פעולה לטווח רחוק, מאשר לשלם סכומי עתק לחבורת אנשים ללא שום ידע מקצועי בתחומים עליהם הם אמונים, ושפועלים אך ורק מתוך אינטרס עצמי בעודם משקרים לנו בפנים שהם "מייצגים את האינטרסים שלנו".
&nbsp
סתם כדוגמה:
יעקוב ליצמן: https://bit.ly/2On5bey
(אני מקצר קישורים לוויקיפדיאה בגלל התווים העבריים בהם שלא חיים ממש טוב בתפוז)
&nbsp
לאדם הזה אין שום השכלה בתחום הרפואה.
למעשה, אין לו בכלל השכלה אקדמאית, בקושי מקבילה להשכלה תיכונית ללא בגרות.
&nbsp
ואם זאת, הוא מנהל את תחום הבריאות ברמה הגבוהה ביותר עבור כל המדינה שלנו!
למה זה נראה לך הגיוני?
&nbsp
הרי הוא אפילו לא עושה את זה כי הרוב בחר בו!
למפלגה שלו יש בסה"כ 6 מנדטים.
&nbsp
אז תסביר לי בדיוק, איך העסק הזה עובד לטובתנו, או אם הוא לא עובד לטובתנו, איך לפחות הוא מבתא את חופש הבחירה שלנו?
&nbsp
אני למשל, רוצה ששר הבריאות, אם הוא חייב להיות אנושי, יהיה פרופסור לרפואה - אדם שמבין בתחום שבו הוא אמור לקבל החלטות שמשפיעות על חיים של כולנו.
אבל במערכת הנוכחית זה לא יכול לקרות. אין אף מפלגה שיש לה אדם מתאים ברשימה, ולא נראה לי שהיא יכולה לקום.
&nbsp
אז אפה פה בדיוק החופש שלי לבחור את מה שטוב לי?

 

[חנוך25]

א. לא הבנתי למה "אלגוריתם" כפי שהשתמשתי במילה

לא מתאים להגדרה שלך של המילה. אבל אתה יכול לבחור מילה אחרת.

ב. אתה מפספס לגמרי את המהות של מדינה דמוקרטית. רשות מחוקקת שופטת ומבצעת יש גם בכל דיקטטורה. השאלה היא באיזה אופן נקבעת מדיניות ציבורית. האם מתוך דיאלוג רחב שנותן משקל להרבה קולות שונים או בפקודות שיורדות מאליטה מצומצמת. השאלה מה האוטונומיה גם של המוסדות השונים וגם של האזרח הבודד, ואם השילטון מדכא התארגנויות ודעות שונות.

ג. אתה לא מבחין בין ישום ידע (הנדסי, מדעי) לבין קביעת היעדים. קביעת היעדים של התקציב לא קשורה לידע באקסל, וקביעת סטנדרטים של רווחת דיור לא קשורה לידע בהנדסת בניין. אנחנו סומכים על הרבה בעלי ידע בהרבה דברים רק מתוך אמונה שיש מערכת רגולציה שהם כפופים לה ושהיא עצמה בנויה לטובתינו ולרווחתינו. האמון הוא לא בידע של המהנדס (בלי הידע הוא לא אמור לגמור את בית הספר ולקבל הסמכה), אלא בכך שהוא מחוייב ליישם את הידע שלו בצורה מסויימת - בצורה שאנחנו החלטנו.

 

[BravoMan]

נתחיל מהסוף:

כל מהנדס שיצא לי להכיר, למעט כמה אידאליסטים בקהילת התוכנה החופשית, מחויב ליישם את הידע שלו בצורה שהבוס שלו - זה שמשלם לו משכורת, הכתיב לו.
&nbsp
והיעד הזה ממש לא תמיד לטובתנו.
ככה קיבלנו את המקרה של וולקסווגן - זה אומנם התחיל בצמרת, אבל בסוף השרשרת היה מהנדס תוכנה שכתב קוד שמרמה במבחני פליטה.
לא כי זה "לטובתנו", אלא כי הבוס שלו אמר לו, והוא לא היה מעוניין לחפש עבודה חדשה באותו הרגע.
&nbsp
לפני כמה שנים ראיתי תוכנית דוקומנטרית בערוץ ההיסטוריה על מפעל לגרביונים:
כשחומרים סינתטיים נכנסו לראשונה לתעשייה בארה"ב אחרי מלחמת העולם השנייה, היה מפעל שיצר גרביונים סינתטיים.
&nbsp
המהנדסים במפעל לקחו את המדגם הראשון הביתה לנשים שלהם, ואז סיפרו לבוס כמה הנשים התלהבו מהמוצר, כי הוא מאוד עמיד ולעולם לא נקרע.
&nbsp
הבוס מיד נתן למהנדסים הוראה למצוא נוסחה אחרת, שתייצר חומר יותר חלש.
למה?
כי אם הגרביונים לא ייקרעו, אף אחד לא יקנה חדשים והמפעל יפשוט רגל.
&nbsp
ונחש מה?
המהנדסים לא עשו את מה שטוב לנו (הציבור).
הם עשו את מה שטוב להם ולבוס שלהם, ואכן שינו את הנוסחה של החומר כדי לקבל גרביונים שנקרעים.
&nbsp
היום פרקטיקה של ייצור מוצרים שיחזיקו מעמד זמן קצר נקראת "planned obsolescense" וזו לא תאוריית קונספירציה, אלא חלק חשוב בכלכלה הקפיטליסטית:
אם ייצרו דברים טובים מדי ועמידים מדי, זה יאט את הצריכה, ויוריד רווחים.
https://en.wikipedia.org/wiki/Planned_obsolescence
&nbsp
אבל האם זה טוב לנו?
לא בהכרח, כי זה מייצר כמויות של זבל וזיהום מיותרים, מבזבז משאבים שגם ככה מצומצמים, וכמובן מוציא כסף מיותר מהכיס שלנו שיכול היה לשמש לדברים טובים יותר.
&nbsp
&nbsp
לגבי ב':
אני לא רואה שום "דיאלוג רחב" בממשלה לא בישראל, ולא בארה"ב.
בארה"ב טראמפ יורה צווים נשיאותיים לימין ולשמאל, שאפילו במפלגה שלו מתנגדים לחלק מהם, וגם אם מדי פעם בית משפט פוסל אותם על בסיס חוקתי, הוא משנה משהו קטן ומנסה שוב.
&nbsp
אצלנו בארץ ברגע שיש חוק שצריך לקיים עליו דיון, הוא לא מגיע להצבעה בכלל.
אם אתה רוצה לכנות קומבינות פוליטיות, כמו מתן סמכויות שר לסגן שר "דיאלוג רחב", סבבה.
אני לא מקבל הגדרה כזו ל-"דיאלוג".
&nbsp
כל מה שכתבת בסעיף ב' הוא טוב, ויפה, והוא התאוריה איך מדינה דמוקרטית אמורה להתנהג.
לצערי, תרם ראיתי דמוקרטיה שבאמת מתנהגת בצורה כזו.
&nbsp
מפלגות לא מיישמות את המצע שלהן אחרי שזכו בקולות. במקרים נדירות, הן מקיימות חלק קטן ממנו.
והמצע לרוב גם לא כולל "מה שטוב לציבור", הוא כולל את הדבר הכי צעקני שמנהיג המפלגה מאמין שימשוך קולות.
אבל במציאות, בסוף, מדיניות ציבורית גם בדמוקרטיה נקבעת ע"י אליטה קטנה בעלת
קשרים גדולים.
&nbsp
יש דבר אחד שאני לא מבין אצלך:
למה אתה חושב שאם נחליף את הכנסת בתוכנה, או אוסף תוכנות, זה איכשהו יידכא התארגנויות או דעות שונות, יותר ממה שהשליטים הנוכחים עושים?
&nbsp
האם אתה באמת מדמיין עתיד בו "אלגוריתם חכם" כדבריך, ישגר טרמינטורים לפזר הפגנה עם רובי לייזר?
&nbsp
אני לא ממש מבין מה אתה מפחד לאבד, כי אני לא ממש מבין על איזו אוטונומיה של אלו ארגונים אתה מדבר.
תוכל לתת דוגמה?

 

[חנוך25]

א. מה שאמרת על מהנדסים הוא נכון ומחזק

את מה שאני אמרתי. במה שקשור לקביעת יעדים אין לי במהנדסים אמון יותר מאשר בכל אדם אחר.

ב. אני מעדיף מפלגות של בני אדם על פני מכונות בדיוק בגלל שבני אדם יכולים לסטות מהמצע. הצמדות עיוורת למצע-תכנות הוא הסכנה במסירת ההחלטות לידי מכונות. אפשר לשכנע בני אדם לשנות את דעתם. אי אפשר לשכנע מכונות.

ג. האוטונומיה - אמרתי. בדמוקרטיה יש לך אוטונומיה גם כיחיד להחליט כל מיני החלטות לגבי החיים שלך וגם אם הם "מוטעות" וגם להביע את דעתך ולנסות לשכנע בלי לסכן את חירותך או את פרנסתך. וגם להקים מפלגות או אירגונים חוץ מפלגתיים. האוניברסיטאות, הכנסיות, אירגונים מקצועיים שונים, אירגונים שדואגים לקבוצות עם מאפיינים מיוחדים - כל אלה הם מוסדות שמבזרים את הכוח במבנה דמוקרטי. זה שלא כל הדמוקרטיות מושלמות זה ברור. דוקא במדינות המערביות הכי דמוקרטיות יש היום מגמה קשה של סתימת פיות ע"י ניאו מרקסיזם של פוליטיקלי קורקט + פוליטיקת התקרבנות + פמיניזם מטורף, שהצליחו לחדור לכל חור כמעט.

 

[AnarchistPhilosopher]

ואם בעתיד לא נוכל להבדיל בין בן אדם למכונה כמו בסרטים?

ויהיה אפשר לשכנע אותם כמו שמשכנעים בני אדם.
&nbsp
אני לא יודע עד כמה זה רחוק, אבל אני מניח שגם בני אדם וכל בעל חיים או צומח מתוכנת על פי מכניזם מסויים.
&nbsp

 

[חנוך25]

בן אדם ובעל חייים וצמח ואבן לא מתוכנתים לפי שום

מכניזם מסויים. לפחות לא ידוע לנו על כך. אם יסתבר שיש אלוהים שאלו הם תוצרי עבודתו נצטרך לשאול אותו מה מטרת המכניזמים האלה.

לשאלתך לגבי "לא נוכל להבדיל" - הכוונה "לא נוכל להבדיל" או ש-"אין הבדל"?
גם היום אתה לא יכול להבדיל בראיה בלבד בין צמח טבעי לבין דמוי צמח מפלסטיק. זה לא נקרא שאין הבדל, נכון?
בני אדם הם בהגדרה טבעיים. מכונות הן בהגדרה מלאכותיות. אם הם יהיו דומים מבחינות מסויימות, יתכן שיהיה קשה להבדיל באופן בלתי אמצעי. זה לא אומר שלא יהיו ביניהם הבדלים אוביקטיביים חשובים.
ואם מכונות יקבלו תודעה ויהיו סוכני מוסר כמו בני אדם? אז מן הסתם בני האדם הטבעיים יאבדו את הבלעדיות של היותם סוכני המוסר היחידים והדיון המוסרי יצטרך לכלול גם מכונות עם מודעות.
(לא שאני חושב שמכונות אוטוטו, או אי-פעם, יהפכו למודעות במובן האנושי).

 

[אנטיחומר]

בן אדם מתוכנת עוד לפני שהוא נולד

למשל, בעתיד יהיה ניתן להוציא גליון אישי, הכולל סוגי מחלות, מזון מומלץ
מקצוע וכו, ע"י בדיקת DNA, וזאת בטרם לידתו

 

[חנוך25]

אם אתה אומר שבן אדם "מתוכנת"

אתה צריך להציג את התוכנית, ואת המפעל שבונה בני אדם לפי התכנית.
וזה נכון לגבי כל מה שאתה טוען שהוא מתוכנת או מתוכנן.

 

[אנטיחומר]

אמרתי "מתוכנת" בגלל שהמדע גילה שהמידע על תכונותיו

והוראות הייצור של כל חי, צומח, פטריה, חיידק וכו כתוב בשפה של ארבע אותיות

 

[חנוך25]

זאת אומרת המדע גילה ספר?