Page 176 - Demo

פרק שישי: פסיכולוגיה וחברה
הבינה המלאכותית עלולה לשכלל יכולת זו עד מאוד, היות שהיא תוכל ליצור מידע שקרי שיראה אמין ומשכנע במיוחד, כך שהסיכוי שאזרחים יטילו בו ספק, וינסו לחפש מקורות מידע אלטרנטיביים יקטן מאוד.
לסיכום ייחודה של הבינה המלאכותית ביכולתה להחליף פעולות שנחשבו לכאלו שרק בני- אדם יכולים לבצע/לחשוב/ליצור. ובראשן היכולת ללמוד ולשפר את יכולותיה באופן עצמאי.
בכך טמון פוטנציאל לשינוי גדול, ולמהפכה טכנולוגית גדולה שתיצור עתיד טוב יותר, אך גם לסכנות עצומות שחלק בלבד תואר למעלה. המסקנה העולה מכך באופן מעשי היא שיש כעת לנסח כללי רגולציה והגבלות ברורות שיחולו על הבינה המלאכותית. כגון איסור על התחזות לאדם, סימון של מידע ככזה שהוכן ע"י בינה מלאכותית כך שאנשים ידעו שמדובר במידע שיש להטיל בו ספק. יש גם לקבוע קווים אדומים מוסריים שיגבילו את המידע והייעוץ שהבינה המלאכותית רשאית להעניק, באמצעות הבניית איסורים בתוך התוכנה שיגרמו לה לסרב לענות על שאלות מסוימות. למשל אם התוכנה תתבקש לייעץ כיצד לבצע פשעים, היא תסרב לעשות זאת. בנוסף יש לפעול להאטת תחרות הפיתוח הפרועה למטרות רווח בין חברות הטכנולוגיה, תוך שהן ידרשו לוודא שהבינה המלאכותית מתפתחת ולומדת באופן שאינו מסכן את המשתמשים בה (בדומה למשל לרגולציה הממשלתית על פיתוח תרופות).
176