בינה מלאכותית תוביל להכחדת האנושות

גם אם הכותרת נשמעת יותר כמו מדע בדיוני לאנשים שאינם קשורים במיוחד לטכנולוגיה, בינה מלאכותית תוביל להכחדת האנושות אם היא לא תישמר.

אחרי באפריל 2023, אילון מאסק ומומחי טכנולוגיה אחרים דיברו על הסכנה הכללית שבינה מלאכותית יכולה לייצר ברמה החברתית, הגיע תורם של המנכ"לים של החברות הגדולות ביותר שמפתחות בינה מלאכותית להפעיל אזעקה באמצעות מכתב פתוח.

בין 350 החותמים על המכתב הפתוח שהשיק העמותה "Center For AI Safety"(CAIS), כולל: סם אלטמן, מנכ"ל החברה OpenAI, ראשי חברות AI DeepMind, Antrophic אלא גם בכירים מהחברות מיקרוסופט, גוגל, שגם מפתחות שפות בינה מלאכותית רחבות.

הם הצטרפו לקבוצת חוקרים ופרופסורים בתחום כדי להתבטא החשש שבינה מלאכותית עלולה להוביל להכחדת האנושות אם מקבלי ההחלטות הפוליטיים לא יקחו את הנושא הזה ברצינות.

ההשפעות של בינה מלאכותית בלתי מוסדרת בעולם עלולות לגרום נזק רב כמו מלחמה גרעינית או מגיפה שיצאה מכלל שליטה, נכתב במכתב הפתוח.

האם בינה מלאכותית תוביל להכחדת האנושות?

סביר להניח שמקבלי ההחלטות יתעוררו בזמן ויחפשו פתרונות להסדרת הצעד העצום הזה שנקטה הטכנולוגיה. כמובן שלפני קבלת החלטות עליהם להבין מה הם הסיכונים הנלווים ליתרונות של בינה מלאכותית.

בינה מלאכותית לא התכוונה רק ChatGPT, Microsoft 365 Copilot או Google Bard. Modeמשתמשים בבינה מלאכותית גנרטיבית ב תרופה, מחקר, רובוטיקה ואוטומציה, חינוך, פיננסים, מסחר, ועוד תחומים רבים אחרים שבהם זה עוזר אמיתי.

AI זה יכול לשמש גם למטרות הרסניות, וקשור להיבט זה הוא החשש שבינה מלאכותית תוביל להכחדת האנושות. מניפולציה של החברה במטרה ליצור מתח בקרב ההמונים, עד לפיתוח נשק אינטליגנטי המסוגל לעלות על האינטליגנציה האנושית ולקבל החלטות באופן אוטונומי. זוהי טכנולוגיה המסוגלת ללמוד בעצמה, להעריך מצבים ולפעול.

הבעיה הכי גדולה היא זה modeשפה רחבה של AI (LLM) זמינים לכל אחד.

ביקוע גרעיני היה צעד ענק עבור האנושות שהביא גם יתרונות וגם סכנות גדולות. האנרגיה המופקת מביקוע גרעיני היא משאב עצום ותועלת אמיתית, בעוד שנשק גרעיני יכול להיות קטסטרופלי עבור האנושות. מצד שני, דלק גרעיני אינו בהישג ידם של כולם כפי שהם modeבינה מלאכותית ללס. אורניום (U-235) או פלוטוניום-239 לא יימצא על ידי אף אחד באותה קלות כמו מציאת מחשב שיכול להריץ את Python.

עם זאת, דבר אחד בטוח. בינה מלאכותית תוביל להכחדת האנושות, רק אם האנושות תאפשר זאת. אם לא ניתן לשלוט על כוחות הטבע על ידי האדם, עדיין ניתן לשלוט בבינה מלאכותית (אני מקווה).