آیا هوش مصنوعی غیر قابل کنترل است؟ | نتیجه تحقیق دانشمندان درباره ابر هوش کامپیوتری
تاریخ انتشار: ۲۵ خرداد ۱۴۰۲ | کد خبر: ۳۷۹۸۶۵۳۵
به گزارش همشهری آنلاین و به نقل از ساینس الرت، دهه‌ها است که از این ایده که هوش مصنوعی که بشر را نابود می‌کند صحبت می‌شود و برنامه‌هایی مانند چت جی‌پی‌تی این نگرانی‌ها را تجدید کرده است.
بنابراین چقدر احتمال دارد که بتوانیم ابر هوش کامپیوتری سطح بالا را کنترل کنیم؟ دانشمندان می‌گویند که چنین چیزی ممکن نیست.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
به گفته نویسندگان مقاله، اگر ما نوع سناریوهایی را که یک هوش مصنوعی قرار است ایجاد کند، درک نکنیم، نمی‌توان قوانینی مانند «هوش مصنوعی نباید به انسان‌ها آسیب برساند» تنظیم کرد. هنگامی که یک سیستم کامپیوتری در سطحی بالاتر از محدوده برنامه‌نویسان ما کار می‌کند، دیگر نمی‌توان محدودیت‌ها را تعیین کرد.
محققان در سال ۲۰۲۱ نوشتند: «یک ابرهوش کامپیوتری مشکلی از اساس متفاوت با آنچه که معمولا تحت عنوان «اخلاق روبات» مورد مطالعه قرار می‌گیرد، ایجاد می‌کند. این به این دلیل است که یک ابرهوش چندوجهی است، و بنابراین به طور بالقوه قادر به جمع‌آوری منابع متنوعی برای دستیابی به اهدافی است که برای انسان غیرقابل درک است، چه رسد به اینکه قابل کنترل باشد.
بخشی از استدلال تیم از مسئله توقف ارائه شده توسط آلن تورینگ در سال ۱۹۳۶ ناشی می شود. یعنی آیا ما می‌توانیم بفهمیم یک برنامه کامپیوتری به نتیجه و پاسخ می‌رسد (متوقف می‌شود) و یا اینکه برای همیشه در تلاش برای یافتن پاسخ در یک حلقه ابدی باقی می‌ماند.
برای مثال، هر برنامه‌ای که برای جلوگیری از آسیب رساندن هوش مصنوعی به انسان‌ها و نابودی جهان نوشته شده باشد، ممکن است به نتیجه برسد (و متوقف شود) یا خیر. در هر صورت از نظر ریاضی غیرممکن است که کاملا مطمئن باشیم و این یعنی قابل کنترل نیست.
تصاویر | ترکیب شگفت‌انگیز هوش مصنوعی و برترین فناوری دوستدار محیط زیست در کشتی «Sea Zero»در اوایل سال جاری، غول‌های فناوری از جمله ایلان ماسک و استیو وزنیاک، بنیانگذار اپل، نامه‌ای سرگشاده امضا کردند و از بشریت خواستند که کار روی هوش مصنوعی را حداقل به مدت ۶ ماه متوقف کنند تا ایمنی آن بررسی شود.
این تحقیق در ژانویه ۲۰۲۱ در مجله تحقیقات هوش مصنوعی منتشر شد.
کد خبر 767158 منبع: همشهری آنلاین برچسب‌ها هوش مصنوعی کامپیوتر و رایانه تکنولوژی (فناوری) تکنولوژی (فناوری) - دیجیتالمنبع: همشهری آنلاین
کلیدواژه: هوش مصنوعی کامپیوتر و رایانه تکنولوژی فناوری تکنولوژی فناوری دیجیتال هوش مصنوعی ابر هوش
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.hamshahrionline.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «همشهری آنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۹۸۶۵۳۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
پایان سلطه گوگل با این موتور جست‌وجوی جدید
به گزارش همشهری آنلاین به نقل از تکنو، گوگل چندین دهه است که تسلط بی‌سابقه‌ای بر صنعت موتورهای جست‌وجو داشته است و بیش از ۹۱درصد از سهم بازار را در سال۲۰۲۴ به‌خود اختصاص داده است. طی سال‌های اخیر موتورهای جست‌وجوی دیگری ازجمله بینگ، داک داک گو و حتی تیک تاک در تلاش برای سرنگونی این سلطنت بودند اما این غول جست‌وجو همچنان یک رهبر باقی مانده است.
اکنون، ChatGPT می‌تواند به‌طور بالقوه موتور جست‌وجویی را معرفی کند که ممکن است کاتالیزور مورد نیاز برای کنار زدن گوگل از تاج و تخت عرصه موتورهای جست‌وجو باشد. به‌گفته کارشناسان، این اپلیکیشن توانایی جست‌وجوی بینگ مایکروسافت را با مدل زبان ChatGPT ترکیب می‌کند تا نتایج جست‌وجوی دقیق‌تری ایجاد کند. با توجه به اینکه مایکروسافت یک سرمایه‌گذار بزرگ در OpenAI است، پیاده‌سازی بینگ به‌نظر یک حرکت تاکتیکی و محتمل از سوی غول فناوری است.
یکی از کاربران شبکه اجتماعی Reddit گواهی‌های SSL را برای یک دامنه جدید به نام «search.chatgpt.com» مشاهده کرد که ایده‌ای کاملاً ثابت برای موتور جست‌وجوی ChatGPT است. اگر URL را تایپ کنید، خطای ۴۰۴ یا سایر پیام‌های هشدار معمولی درباره وب سایتی که وجود ندارد، دریافت نمی‌کنید. بلکه فقط رمز مرموز «یافت نشد» روی صفحه ظاهر می‌شود. همه اینها نشان می‌دهد که جست‌وجوی ChatGPT در راه است.
بیشتر بخوانید:
این شبکه اجتماعی برای کاربرانش بازی راه‌اندازی کرده است!اگر در سال‌های اخیر از هر فناوری هوش مصنوعی مولد استفاده کرده باشید، می‌دانید که چقدر این فناوری نوین می‌تواند برای جست‌وجو ارزشمند باشد. پاسخ‌های بسیار پیچیده‌تری به پرس‌وجوهای اساسی ارائه می‌دهد و از نظر نتایجی که ارائه می‌دهد بسیار زبان ساده‌تری دارد. به هرحال واقعیت این است که گوگل در زمینه هوش مصنوعی از OpenAI و مایکروسافت عقب‌مانده است.
کد خبر 849165 برچسب‌ها اینترنت - موتور جستجو شرکت گوگل شرکت مایکروسافت هوش مصنوعی
حقوق کدام یک از ایثارگران در سال ۱۴۰۳ افزایش داشت؟