کاربرد و خطرات هوش مصنوعی (AI)
هر آنچه را که ما در مورد تمدن دوست داریم محصولی از هوش است ، بنابراین تقویت هوش انسانی ما با هوش مصنوعی توانایی کمک به تمدن را شکوفا می کند مانند گذشته تا زمانی که موفق به حفظ فن آوری مفید باشیم.
هوش مصنوعی چیست؟
از SIRI گرفته تا خودروهای خودران ، هوش مصنوعی (AI) به سرعت در حال پیشرفت است. در حالی که داستانهای علمی غالباً هوش مصنوعی را به عنوان ربات هایی با مشخصات انسانی شبیه می کنند، هوش مصنوعی می تواند از الگوریتم های جستجوی گوگل تا واتسون IBM گرفته تا سلاح های مستقل را شامل شود.
امروزه هوش مصنوعی به طور صحیح به عنوان AI ضعیف (یا ضعف هوش مصنوعی) شناخته شده است ، به این ترتیب برای انجام یک کار ضعیف (به عنوان مثال فقط تشخیص چهره یا فقط جستجوهای اینترنتی یا فقط رانندگی اتومبیل) طراحی شده است. با این حال ، هدف بلند مدت بسیاری از محققان ایجاد AI عمومی (AGI یا هوش مصنوعی قوی) است. در حالی که هوش مصنوعی ضعیف ممکن است انسانها را در انجام وظایف خاص خود ، مانند بازی شطرنج یا حل معادلات ، از انسانها بهتر کند ، AGI تقریباً در هر کار شناختی از انسانها پیشی می گیرد.
چرا هوش مصنوعی؟
در کوتاه مدت ، هدف حفظ تأثیر هوش مصنوعی بر سودمندی جامعه ، تحریک تحقیقات در بسیاری از زمینه ها ، از اقتصاد و قانون گرفته تا مباحث فنی مانند تأیید ، اعتبار ، امنیت و کنترل است. در حالی که ممکن است در صورت خراب شدن یا هک شدن لپ تاپ شما بیش از یک مزاحمت جزئی باشد ، مهمتر از این است که یک سیستم هوش مصنوعی آنچه را که می خواهید انجام دهد در صورت کنترل اتومبیل ، هواپیمای شما ، ضربان ساز شما ، تجارت خودکار خود را انجام دهد. سیستم یا شبکه برق شما یکی دیگر از چالش های کوتاه مدت ، جلوگیری از مسابقه ویرانگر اسلحه در سلاح های کشنده است.
در دراز مدت ، یک سوال مهم این است که اگر تلاش برای هوش مصنوعی قوی موفق شود و یک سیستم هوش مصنوعی از همه کارهای شناختی بهتر از انسان شود ، چه خواهد شد. چنین سیستمی می تواند به طور بالقوه دستخوش بهبودی بازگشتی شود و باعث انفجار هوشیاری شود كه عقل انسان را بسیار عقب نگه دارد. با اختراع فن آوری های جدید انقلابی ، چنین اطلاعاتی می تواند به ما در ریشه کن کردن جنگ ، بیماری و فقر کمک کند ، بنابراین ایجاد هوش مصنوعی قوی می تواند بزرگترین رویداد تاریخ بشر باشد.
عده ای از پزوهشگران سوال می کنند که آیا هوش مصنوعی قوی هرگز به دست می آید ، و برخی دیگر که اصرار دارند که ایجاد هوش مصنوعی فوق العاده تضمین شده باشد ، سودمند است. در FLI هر دوی این امکانات را می شناسیم ، اما همچنین پتانسیل ایجاد یک سیستم هوش مصنوعی را برای ایجاد عمدی یا ناخواسته صدمات بزرگی می شناسیم. ما معتقدیم که تحقیقات امروز به ما کمک می کند تا در آینده بهتر آماده شویم و از چنین عواقب منفی بالقوه جلوگیری کنیم و از مزایای هوش مصنوعی استفاده کامل را ببریم.
چطور ممکن است هوش مصنوعی خطرناک باشد؟
اکثر محققان قبول دارند که یک هوش مصنوعی ضد امنیتی ممکن است که عواطف انسانی مانند عشق یا نفرت را به نمایش بگذارد ، و دلیلی ندارد که انتظار داشته باشیم هوش مصنوعی رفتار خیرخواهانه یا بدخلق شود. درعوض ، وقتی در نظر بگیریم که چگونه هوش مصنوعی ممکن است به خطر بیفتد ، دو سناریو وجود دارد:
- هوش مصنوعی برای انجام کاری ویرانگر برنامه ریزی شده است: سلاح های خودمختار سیستم های هوش مصنوعی هستند که برای کشتن برنامه ریزی شده اند. در دست شخص اشتباه ، این سلاح ها به راحتی می توانند تلفات گسترده ای به همراه داشته باشند. علاوه بر این ، مسابقه تسلیحاتی AI می تواند ناخواسته منجر به جنگ AI شود که منجر به تلفات گسترده نیز می شود. برای جلوگیری از خنثی کردن دشمن ، این سلاح ها به گونه ای طراحی شده اند که به سادگی “خاموش” شوند ، بنابراین انسان می تواند کنترل چنین شرایطی را به طرز موثری از دست بدهد.
- هوش مصنوعی برنامه ریزی شده است تا کاری مفید انجام دهد ، اما برای دستیابی به هدف خود روشی مخرب ایجاد می کند: این می تواند هر زمان اتفاق بیفتد که نتوانیم اهداف AI را با اهداف خود هماهنگ کنیم ، که بسیار دشوار است. اگر از یک ماشین هوشمند مطیع و مطیع بخواهید که شما را در اسرع وقت به فرودگاه برساند ، ممکن است شما را در آنجا با هلیکوپتر تحت تعقیب قرار داده، نه آنچه را که می خواستید بلکه به معنای واقعی کلمه آنچه خواسته اید انجام دهد. اگر یک سیستم جاسوسی پیشرفته وظیفه یک پروژه جغرافیایی جاه طلبانه را برعهده داشته باشد ، ممکن است با اکوسیستم ما به عنوان یک عارضه ویران شود و تلاش های انسان را برای متوقف کردن آن به عنوان یک تهدید پیش بینی کند.
ارسال دیدگاه