استفاده از هوش مصنوعی نیازمند تنظیم مقررات است[TIME]

به نوعی، میرا موراتی می تواند صریحا در مورد خطرات هوش مصنوعی صحبت کند در حالی که به شما این احساس را می دهد که در عین حال همه چیز خوب است.

موراتی مدیر ارشد فناوری OpenAI است که تیم‌های پشت سر DALL-E را رهبری می‌کند این شرکت از هوش مصنوعی برای ایجاد آثار هنری بر اساس درخواستها  و ChatGPT، چت ربات هوش مصنوعی بسیار محبوب که می‌تواند به سؤالات پیچیده با مهارت‌های ترسناک انسانی پاسخ دهد، استفاده می‌کند.

ChatGPT پس از انتشار در اواخر نوامبر، توجه عموم را به خود جلب کرد. در حالی که برخی از مدارس آن را ممنوع می‌کنند، مایکروسافت سرمایه‌گذاری 10 میلیارد دلاری در این شرکت را اعلام کرد و گوگل نیز با نگرانی از اینکه این فناوری می‌تواند تجارت جستجوی آن را مختل کند، “کد قرمز” را منتشر کرد. موراتی در پاییز گذشته درباره تأثیر هوش مصنوعی به ترور نوآ گفت: «همانند سایر انقلاب‌هایی که ما پشت سر گذاشته‌ایم، مشاغل جدید وجود خواهد داشت و برخی از مشاغل از بین می‌روند، اما من خوشبین هستم.

به گفته Google Trends، در بیشتر ماه ژانویه، ChatGPT از بیت کوین در میان عبارات جستجوی محبوب پیشی گرفت. همه توجه‌ها به این معنی است که استارت‌آپ خصوصی مستقر در سانفرانسیسکو – با 375 کارمند و درآمد کم – اکنون ارزشی در حدود 30 میلیارد دلار دارد.

موراتی در مورد بزرگترین ضعف ChatGPT، پتانسیل استفاده نشده نرم افزار و اینکه چرا زمان آن رسیده است که به سمت تنظیم هوش مصنوعی حرکت کنیم، با جان سیمونز در مجله TIME صحبت کرده است که در ادامه تقدیم میشود :

ابتدا، می‌خواهم به شما و تیمتان به خاطر اخبار اخیر مبنی بر اینکه ChatGPT نمره قبولی در یک امتحان مجوز پزشکی ایالات متحده، یک آزمون MBA در مدرسه کسب و کار وارتون و چهار آزمون بزرگ دانشگاهی حقوق مدرسه کسب کرده است، تبریک بگویم. آیا احساس می کنید فرزندی باهوش دارید؟

ما انتظار این سطح از هیجان را از قرار دادن فرزندمان در دنیا نداشتیم. ما، در واقع، حتی در مورد قرار دادن آن در دنیا ترس داشتیم. من کنجکاو هستم که جاهایی را ببینم که ChatGPT در آن شروع به تولید مفید برای مردم می کند و نه فقط تازگی و کنجکاوی محض .

من از ChatGPT پرسیدم که یک سوال خوب پیشنهاد کند تا در این مصاحبه از شما بپرسم. او این سوال را پیشنهاد کرد ! : “برخی از محدودیت ها یا چالش هایی که در حین کار با ChatGPT با آن مواجه شده اید چیست و چگونه بر آنها غلبه کرده اید؟”

سوال خوبی است. ChatGPT اساساً یک مدل مکالمه بزرگ است – یک شبکه عصبی بزرگ که برای پیش‌بینی کلمه بعدی آموزش داده شده است – و چالش‌های مربوط به آن چالش‌های مشابهی هستند که در مدل‌های اصلی زبان اصلی مشاهده می‌کنیم: ممکن است حقایقی را ایجاد کند.

البته به روشی بسیار مطمئن!

بله . در واقع این چالش اصلی است. ما دیالوگ را به طور خاص انتخاب کردیم زیرا گفتگو راهی برای تعامل با یک مدل و دادن بازخورد به آن است. اگر فکر کنیم که پاسخ مدل نادرست است، می‌توان گفت: «مطمئنی؟ فکر می‌کنم در واقع…» و سپس مدل فرصتی پیدا می‌کند که با شما به این سو و آن سو برود، شبیه به اینکه چگونه با انسان دیگری صحبت می‌کنیم.

فناوری های واقعاً پیشگامانه یک مشکل را حل می کند. ChatGPT چه مشکلی را حل می کند؟

در حال حاضر، این در مرحله بررسی تحقیقاتی است، بنابراین نمی‌خواهم با اطمینان بالا در مورد اینکه چه مشکلاتی را حل می‌کند صحبت کنم. اما من فکر می‌کنم که می‌توانیم ببینیم که این پتانسیل واقعاً انقلابی در روش یادگیری ما است. یک کلاس های 30 نفره را در نظر بگیرید . همه افراد سوابق متفاوتی دارند ، روش های یادگیری آنها هم می تواند متفاوت باشد ، اما همه اساساً برنامه درسی یکسانی دریافت می کنند. با ابزارهایی مانند ChatGPT، می‌توانید بی‌پایان با یک مدل صحبت کنید تا یک مفهوم را به گونه‌ای درک کنید که مطابق با سطح درک شما باشد. این پتانسیل بسیار زیادی برای کمک به ما در آموزش شخصی دارد.

اما برخی مدارس ChatGPT را ممنوع می کنند. آیا این شما را شگفت زده می کند؟

وقتی ما در حال توسعه این فناوری‌ها هستیم، واقعاً به سمت هوش عمومی، قابلیت‌های عمومی با قابلیت اطمینان بالا و انجام این کار با خیال راحت پیش می‌رویم. اما وقتی آن را به روی افراد زیادی با پیشینه‌ها و تخصص‌های حوزه مختلف باز کنید، قطعاً از انواع کارهایی که آنها با این فناوری انجام می‌دهند، چه در جنبه مثبت و چه در جنبه منفی، شگفت‌زده خواهید شد.

“همانند سایر انقلاب‌هایی که ما پشت سر گذاشته‌ایم، مشاغل جدید وجود خواهد داشت و برخی از مشاغل از بین می‌روند، اما من خوشبین هستم.”

تعداد فزاینده ای از رهبران در این زمینه در مورد خطرات هوش مصنوعی هشدار می دهند. آیا در مورد این فناوری تردید دارید؟

این یک لحظه منحصر به فرد در زمان است که در آن ما عاملی در نحوه شکل دادن به جامعه داریم. و این به هر دو صورت پیش می رود: فناوری به ما شکل می دهد و ما آن را شکل می دهیم. بسیاری از مشکلات سخت برای کشف وجود دارد. سوال مهم این است که چگونه مدل را وادار می‌کنید تا کاری را که می‌خواهید انجام دهد، و چگونه مطمئن می‌شوید که با نیت انسان و در نهایت در خدمت بشریت است؟ همچنین سؤالات زیادی در مورد تأثیرات اجتماعی وجود دارد، و سؤالات اخلاقی و فلسفی زیادی وجود دارد که باید آنها را در نظر بگیریم. و مهم است که صداهای مختلفی مانند فیلسوفان، دانشمندان علوم اجتماعی، هنرمندان و افرادی از علوم انسانی را وارد کنیم.

به نظر شما این سوالات باید به شرکت هایی مانند شما سپرده شود یا دولت ها باید در ایجاد مقررات دخالت کنند؟

برای OpenAI و شرکت هایی مانند ما مهم است که این موضوع را به شیوه ای کنترل شده و مسئولیت پذیر به آگاهی عمومی بیاورند. اما ما گروه کوچکی از مردم هستیم و به تعداد زیادی ورودی بیشتر در این سیستم و ورودی های بسیار بیشتری نیاز داریم که فراتر از فناوری ها باشد – قطعاً تنظیم کننده ها و دولت ها و همه افراد دیگر.

میرا، می‌توانی یک آهنگ یا آلبوم، یک کتاب و یک فیلم به من پیشنهاد بدهی که به ما بینشی در مورد اینکه تو کی هستی و چه چیزی الهام‌بخش تو باشد را به من بدهی؟

آهنگ: اندروید پارانوئید از Radiohead این آهنگ لایه لایه است و موضوعات مرتبط با جامعه در فناوری را لمس می کند. نه چندان نشاط آور اما زیبا و قابل تامل.

کتاب: مرثیه های دوینو، مجموعه ای از اشعار راینر ماریا ریلکه. من اخیراً این را به عنوان هدیه دریافت کردم و عمق و زیبایی اشعار را بسیار الهام بخش یافتم.

فیلم ادیسه فضایی : 2001: A Space Odyssey همچنان با تصاویر و موسیقی خود تخیل من را تحریک می کند، به خصوص در سکانس نفس گیر که شاتل فضایی همراه با والس آبی دانوب یوهان اشتراوس پهلو می گیرد و تفکر بی وزنی این رویداد و شکوه و عظمت از آن لحظه را برمی انگیزد.