אפרופו הדיון על ה- AI
מודה שעד לפני זמן קצר לא ממש התעניינתי ולא חשבתי על הנושא.
אחרי טפטופי מידע, אחרי כמה תמונות שהצחיקו אותי לרגע, שמעתי השבוע הרצאה בנושא. (מהפחד הלכתי לקרוא עוד קצת..)
במהלך ההרצאה הוקרן ריאיון עם ג'פרי הינטון, (אחד החוקרים הבולטים בתחום ה AI, המכונה "הסנדק של הבינה המלאכותית" ועד לאחרונה סגן נשיא ועמית הנדסה בגוגל) שהודיע על עזיבתו את גוגל, גם בשל גילו (השנה יחגוג 78), אבל גם כי שינה את דעתו לגבי הקשר בין הבינה המלאכותית והאדם.
לדבריו, עם כל היתרונות, ויש יתרונות, בינה מלאכותית יכולה גם ללמוד דברים שליליים, כמו איך להפעיל מניפולציות שונות על בני אדם ולהפעיל אותם לפעולות שליליות.
ה AI יהיה הרבה יותר טוב מאיתנו בזה.
הוא טוען שברור שבעידן שלנו (קפיטליזם, תחרותיות בין מזרח ומערב וכו) לא תימנע ההתפתחות, אבל אם לא יינקטו צעדי אבטחה משמעותיים, הוא חושש שכל העניין יצא מכלל שליטה, הבינה עלולה לקחת את השליטה לידיה ובני האדם יהיו בסכנה קיומית.
הצד החיובי, לדבריו, שכולם עומדים בפני אותו סיכון. "אם נאפשר לזה להשתלט, זה יהיה רע לכולנו", אמר הינטון. "כולנו באותה סירה ביחס לאיום הקיומי. אז כולנו צריכים להיות מסוגלים לשתף פעולה בניסיון לעצור אותו".
הגולם קם על יוצרו?
מודה שעד לפני זמן קצר לא ממש התעניינתי ולא חשבתי על הנושא.
אחרי טפטופי מידע, אחרי כמה תמונות שהצחיקו אותי לרגע, שמעתי השבוע הרצאה בנושא. (מהפחד הלכתי לקרוא עוד קצת..)
במהלך ההרצאה הוקרן ריאיון עם ג'פרי הינטון, (אחד החוקרים הבולטים בתחום ה AI, המכונה "הסנדק של הבינה המלאכותית" ועד לאחרונה סגן נשיא ועמית הנדסה בגוגל) שהודיע על עזיבתו את גוגל, גם בשל גילו (השנה יחגוג 78), אבל גם כי שינה את דעתו לגבי הקשר בין הבינה המלאכותית והאדם.
לדבריו, עם כל היתרונות, ויש יתרונות, בינה מלאכותית יכולה גם ללמוד דברים שליליים, כמו איך להפעיל מניפולציות שונות על בני אדם ולהפעיל אותם לפעולות שליליות.
ה AI יהיה הרבה יותר טוב מאיתנו בזה.
הוא טוען שברור שבעידן שלנו (קפיטליזם, תחרותיות בין מזרח ומערב וכו) לא תימנע ההתפתחות, אבל אם לא יינקטו צעדי אבטחה משמעותיים, הוא חושש שכל העניין יצא מכלל שליטה, הבינה עלולה לקחת את השליטה לידיה ובני האדם יהיו בסכנה קיומית.
הצד החיובי, לדבריו, שכולם עומדים בפני אותו סיכון. "אם נאפשר לזה להשתלט, זה יהיה רע לכולנו", אמר הינטון. "כולנו באותה סירה ביחס לאיום הקיומי. אז כולנו צריכים להיות מסוגלים לשתף פעולה בניסיון לעצור אותו".
הגולם קם על יוצרו?
״