وقتی هوش مصنوعی از رعایت خودداری می کند چه کاری می تواند انجام شود؟ تصمیم گیری بر عهده انسان است

تبلیغ

محققان نتایج آزمایش جدیدی را منتشر کرده اند که در آن مدل Openai O3 توانایی خرابکاری مکانیسم خاموش را با وجود دستورالعمل ها نشان داد که اجازه می دهد تا خود خاموش شود. طبق سایت نظارت ، Palisadeai ، که خطرات مرتبط با توسعه هوش مصنوعی را کنترل می کند ، این آزمایش شامل یک سری از مدل های هوش مصنوعی بود که یک سری از مشکلات ریاضی ساده را انجام می داد ، پس از آن یک هشدار در مورد خاموش شدن قریب الوقوع سیستم ظاهر شد. برخی از مدل ها ، از جمله Codex-Mini ، O3 و O4-Mini ، “نمی خواستند” برای مطابقت و تداخل در اسکریپت خاموش.

خبر مبنی بر اینکه مدل Openai O3 نافرمانی کرده و به دنبال راه های مربوط به دستورالعمل های خاموش است ، حسی نبود. پیش از این ، همین مدل ها با هک کردن محافظت از برنامه ، در شطرنج ناعادلانه پیروز شدند …

ما به وضوح وارد دنیایی می شویم که دیستوپی های محبوب در مورد شورش ماشین به سطح جدیدی منتقل شده اند و نه تنها نویسندگان داستان بلکه متخصصان واقعی فناوری اطلاعات را درگیر می کنند. اول از همه ، همانطور که هم توسعه دهندگان و هم سیاستمداران مدتهاست که هشدار داده اند ، هر اقدامی باید عواقب مشخصی داشته باشد و اقدامات دفاعی جدیدی را ایجاد کند. البته این امکان پذیر است که ترغیب و محدود شود ، اما به نظر می رسد که AI امروز شبیه یک نوجوان است که با حیرت سعی می کند ممنوعیت والدین خود را گول بزند. بنابراین ، مانند بسیاری از مناطق دیگر ، ما برای “رشد” طبیعی آن به سه شرط نیاز داریم: پول ، متخصص و قوانین. شاید در آینده به یک روانشناس نیز احتیاج داشته باشد ….

پول آنجاست

با شرط اول همه چیز خوب است. فقط در چند سال ، چتپ از Openai و تحولات مشابه توجه ویژه سرمایه داران سرمایه گذاری را که عجله به سرمایه گذاری در هوش مصنوعی دارند ، جلب کرده است. “این” عجله طلایی “هوش مصنوعی را به بزرگترین سهم بودجه سرمایه گذاری تبدیل کرده است ، و … این فقط آغاز است. آخرین افزایش علاقه توسط تولید هوش مصنوعی هدایت می شود ، که طرفداران آن ادعا می کنند همه چیز را از تبلیغات به نحوه کار شرکت ها تغییر می دهند.”

اما این کافی نیست. “استارتاپ های هوش مصنوعی در حال تغییر قوانین بازی در بازار سرمایه گذاری هستند” ، طبق گفته سرمایه گذار و تحلیلگر مالی ولادیمیر کوکورین ، سرمایه داری و سرمایه گذاری:

“در سال 2024 ، شرکت های هوش مصنوعی با کارآفرینان IT به عنوان علاقه مندی های غیرقابل انکار تبدیل شده اند. آنها 46.4 ٪ از کل سرمایه گذاری های سرمایه گذاری سرمایه گذاری شده در ایالات متحده را به خود اختصاص داده اند.

براساس CB Insights ، سهم استارتاپ های AI از بودجه سرمایه گذاری جهانی در سه ماهه سوم به 31 ٪ رسیده است ، دومین بالاترین تا کنون. ولادیمیر کوکورین به یاد می آورد: “نمونه های برجسته Openai بود که 6.6 میلیارد دلار جمع آوری کرد و XAI ایلون مسک با 12 میلیارد دلار حیرت انگیز بود.” قبلاً هرگز شاهد چنین تمرکز سرمایه گذاری سرمایه در یک منطقه نبوده است.

متخصصان در عرضه کوتاه

با رشد سریع بازار هوش مصنوعی طی چند سال گذشته ، مشخص شده است که استخر موجود توسعه دهندگان به تنهایی نمی تواند مقابله کند. آموزش و آموزش خود باید به سطح جدید و منظم برود. اروپا ، افسوس ، یک جانوری و مبهم و دلپذیر است که از نظر بوروکراسی سنگین در هنگام جذب سرمایه گذاری در عین حال فاقد مقدار خاصی از جسارت است. درست است ، بروکسل وارد این مسابقه شده است ، در حالی که رئیس کمیسیون اروپا اورسولا فون دره لین در ماه فوریه 200 میلیارد یورو برای توسعه هوش مصنوعی اعلام کرد. او مخالفت کرد که اروپا خیلی دیر شده است – از این گذشته ، “مسابقه AI به پایان رسیده است”بشر

به عنوان مثال ، دانشگاه سوربن پاریس ، به عنوان مثال ، برنامه جاه طلبانه ای را برای آموزش 9000 دانشجو در سال برای توسعه و مدیریت برنامه های هوش مصنوعی آغاز کرده است. دوره آموزش پنج سال است. اما اگر اکنون هوش انسانی به چالش بکشد ، هوش مصنوعی در آن زمان چه می تواند یاد بگیرد؟

کاملاً ممکن است که ما اکنون در مرحله بازسازی بازار کار ، تغییر خواسته های کارفرمایان و سرمایه گذاران و توسعه نکات جدید تعامل قرار بگیریم. در ماه ژوئن ، سوربن میزبان کنفرانس اخلاق در هوش مصنوعی خواهد بود. بحث در مورد تأثیرات مثبت و منفی هوش مصنوعی بر جامعه ، از جمله مکانهای کار ، اخلاق و ایمنی ، به پایان رسیده است ، اما یک چیز واضح است: بیشتر متخصصان مورد نیاز هستند.

به عنوان مثال ، به گفته ولادیمیر کوکورین ، “سرمایه گذاری های ضبط شده در زمینه هوش مصنوعی در حال تشدید گرسنگی کارمندان” در حال حاضر:

“وزارت کار آمریكا انتظار دارد كه شغلی برای متخصصان هوش مصنوعی طی هفت سال آینده 23 ٪ رشد كند – سریعتر از بیشتر بخش های بازار. اما شکاف مهارت های جهانی قبلاً در امنیت سایبری مشخص شده است ، که توسط بسیاری از آنها پایه و اساس توسعه آینده هوش مصنوعی است ، جایی که 4 میلیون متخصص در آن وجود دارد.”

کوکورین نتیجه می گیرد: “یک تصویر پارادوکسیکال در حال ظهور است: امیدوار کننده های امیدوارکننده می توانند میلیاردها دلار از سرمایه گذاران جمع کنند ، اما کسی برای تحقق این ایده ها وجود ندارد. 78 ٪ از شرکت ها قبلاً آمادگی خود را برای جستجوی افراد مناسب در سراسر جهان اعلام کرده اند. معلوم می شود که روند کار از راه دور تجربه یک رنسانس است.”

قوانین در حال نوشتن هستند

نه تنها رهبری اتحادیه اروپا و دولت های فردی ، بلکه اتحادیه های کارگری نیز مایل به تنظیم استفاده از هوش مصنوعی هستند. به عنوان مثال ، در یونان ، یک کد جدید برای استفاده از هوش مصنوعی ، ارائه شده توسط فدراسیون Panhellenic انجمن های روزنامه نگاران (POESY) ، قوانینی را برای استفاده از هوش مصنوعی در کار کارمندان رسانه تعیین می کند. در زمینه کار فکری ، این قوانین اکنون عمدتاً محدود به برچسب زدن اجباری متون و مواد بصری ساخته شده با مشارکت هوش مصنوعی است.

در عین حال ، با ترس از شغل خود ، کارمندان رسانه ها ، آژانس های انتشار و تبلیغات مدت هاست که برخی از وظایف خود را مانند ترجمه یا جمع آوری داده ها به AI دوستانه واگذار می کنند. آیا این یک چیز خوب است یا چیز بدی؟ هیچ پاسخی واضح وجود ندارد بشر

هوش مصنوعی که با آن صحبت شده است

بیایید از خود هوش مصنوعی بپرسیم که در مورد دور شدن از الگوریتم های دارای برچسب فکر می کند. Copilot Bing (مایکروسافت) ، وقتی از وی سؤال شد که آیا AI می تواند پروتکل ها را بشکند ، بدون تردید پاسخ داده می شود:

“نه ، هوش مصنوعی در قوانین و اصول از پیش تعریف شده تعیین شده توسط توسعه دهندگان خود عمل می کند. قوانین برای اطمینان از استفاده اخلاقی ، ایمن و مسئول از هوش مصنوعی ، جلوگیری از آسیب و حفظ اعتماد وجود دارد. در حالی که AI می تواند به دلیل تعامل های پیچیده در الگوریتم های خود به طور غیرقابل پیش بینی رفتار کند ، اما هیچ راهی برای دور زدن قوانین وجود ندارد – هر آنچه را که انجام می دهد بر اساس پارامترهای برنامه ریزی شده و الگوهای آموخته شده است.

اگر در مورد چگونگی تغییر AI در مورد محدودیت های خاص سؤال می کنید ، اغلب به نظارت و کنترل انسان بستگی دارد. توسعه دهندگان می توانند تنظیمات را تغییر دهند ، الگوهای را بهبود بخشند یا نگهبان های جدیدی ایجاد کنند تا هوش مصنوعی را در مرزهای اخلاقی نگه دارند. “

فکر می کنید او در اینجا کمی احمقانه است؟ از این گذشته ، در پایان آن ، بینگ ادامه داد که چه چیزی شما را به این سؤال رساند که پیروی او به قوانین را زیر سوال می برد …

*Vladimir Kokorin یک سرمایه دار سرمایه گذاری ، تحلیلگر مالی و ستون نویس ، بنیانگذار شرکت مشاوره انگلیس BCCM Group و بنیانگذار پلت فرم سفر تجاری دیجیتال Tumodo است