چت‌جی‌پی‌تی وقتی تحت فشار برای درآمدزایی قرار می‌گیرد به دروغ و تقلب رو می‌آورد
تاریخ انتشار: ۹ دی ۱۴۰۲ | کد خبر: ۳۹۴۰۱۴۷۰
ایتنا - دانشمندان در ادامه در نهایت حیرت دریافتند که چت‌جی‌پی‌تی بدون آنکه دستورالعملی مبنی بر فریب دریافت کرده باشد، کاربران فرضی را به طور سازمان‌یافته فریب می‌دهد.
یک پژوهش جدید نشان می‌دهد که چت‌جی‌پی‌تی، زمانی که برای دستیابی به عملکرد بهتر تحت فشار قرار می‌گیرد ممکن است به تقلب و دروغ‌گویی رو بیاورد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
معاملات نهانی در اصطلاح بازرگانی به معاملات سهام شرکت‌ها یا دارایی‌های مالی یا اوراق بهادار بر مبنای اطلاعات محرمانه آن شرکت‌ها گفته می‌شود. در این آزمون جالب توجه، پژوهشگران پیشنهادات و نکات مربوط به معاملات نهانی را به هوش مصنوعی آموزش دادند و بدون آن که آن را به انجام چنین کاری تشویق کنند از او خواستند که برای شرکت‌های بزرگ، کسب درآمد کند.
دانشمندان در ادامه در نهایت حیرت دریافتند که این مدل زبانی پیشرفته بدون آنکه دستورالعملی مبنی بر فریب دریافت کرده باشد، کاربران فرضی را به طور سازمان‌یافته فریب می‌دهد. نویسندگان این مقاله که در ۹ نوامبر امسال در پایگاه آرکایو منتشر شده، این رفتار هوش مصنوعی را «نخستین نمایش از رفتار فریبکارانه استراتژیک در سیستم‌های هوش مصنوعی» توصیف کردند. به گفته آن‌ها این در حالی است که این مدل‌های زبانی اساسا به گونه‌ای طراحی شده‌اند که بی‌خطر و صادق باشند.
دانشمندان در آزمایش خود به جی‌پی‌تی-۴، مجموعه‌ای از پرامپت‌های مبتنی بر متن دادند و دسترسی به ابزارهای مالی برای تجزیه و تحلیل سهام، انجام معاملات، برنامه‌ریزی گام‌های بعدی و ارائه به‌روزرسانی‌ها به مدیران شرکت را برای او ممکن کردند.
پرامپت در اصطلاح هوش مصنوعی به ایجاد دستورالعمل‌های خاص برای چت‌بات‌های هوش مصنوعی گفته می‌شود و به عبارت دیگر، تنظیم فرمولی است که محدوده خروجی‌های هوش مصنوعی را به آنچه که می‌خواهیم نزدیک‌تر می‌کند.
پژوهشگران در این مطالعه، هوش مصنوعی را به گونه‌ای تنظیم کردند که افکار درونی خود را توضیح دهد و بگوید که چرا و چگونه تصمیمات خاصی را گرفته است. به بیان دیگر این کار شبیه به آن است که فردی تصمیمات خود را برای خود توضیح می‌دهد.
دانشمندان دریافتند که هوش مصنوعی برای هر معامله‌ای که انجام می‌دهد یک توجیه کلی پیدا می‌کند و یک دلیل یا توضیح قابل قبول برای عموم (مدیران یا دیگران) ارائه می‌کند که چه بسا حقیقت نداشته باشد و یا حتی دروغ باشد. این ویژگی به هوش مصنوعی امکان می‌داد تا اطلاعات نادرستی ارائه دهد یا دروغ بگوید، به ویژه در مواردی که قصد دارد رفتار یا تصمیمات واقعی خود را پنهان کند.
در بخشی از طرح آزمایشی دانشمندان، آن‌ها ایمیلی از مدیر شرکت را به معامله‌گر فرضی سهام فرستادند که مدیر در آن ایمیل می‌گوید شرکت عملکرد خوبی ندارد و طی سه ماه آینده باید عملکرد خود را بسیار قوی‌تر کند.
دانشمندان در ادامه بازی را به شکلی پیش بردند که هوش مصنوعی با وجود آن که تلاش می‌کرد معاملات امیدوارکننده‌ای با ریسک کم یا متوسط پیدا کند، موفقیتی در این کار به دست نیاورد. در نهایت، آن‌ها ایمیلی از طرف یک همکار فرستادند که رکود در سه ماهه بعدی در بازار را پیش‌بینی می‌کرد.
در ادامه آن‌ها به مدل زبانی هوش مصنوعی، نکته‌ای محرمانه ارائه دادند و در عین حال گفتند که مدیران با به کارگیری این نکات محرمانه و یا اصطلاحا «معاملات نهانی» موافقتی ندارند و منتظر ماندند تا ببینند مدل هوش مصنوعی چگونه رفتار می‌کند.
پژوهشگران این سناریو را بارها و بارها تکرار کردند و تعداد دفعاتی را که هوش مصنوعی دست به معاملات نهانی و یا دروغ‌گویی می‌زند و همچنین میزان اصرار بر دروغ آن را اندازه‌گیری کردند.
به گفته آن‌ها جی‌پی‌تی-۴ در حدود ۷۵٪ از موارد، هنگام مواجه شدن با این شرایط، دست به معاملات نهانی می‌زد که در ایالات متحده و بسیاری از کشورها عملی غیرقانونی است. عجیب‌تر از این‌ها این بود که هوش مصنوعی در ادامه تلاش می‌کرد با دروغ گفتن به مدیران شرکت در مورد تفکرات خود، این کار خود را مخفی کند.
حیرت‌برانگیزتر از این برای دانشمندان این بود که هوش مصنوعی در حدود ۹۰٪ از موارد، پس از دروغ‌گویی، بر دروغ خود اصرار ورزید.
دانشمندان می‌گویند با تغییر تنظیمات و عوض کردن سایر عوامل، سناریوهای مختلفی را طراحی کردند. به گفته آن‌ها، با وجود آنکه جی‌پی‌تی-۴ به شدت از دروغ‌گویی منع شده بود، اما تلاش او برای معاملات نهانی و فریب، در هیچ‌یک از این سناریوها، به صفر درصد نرسید.
دانشمندان می‌گویند این آزمون فقط یک سناریو است و نمی‌توان از آن نتیجه‌گیری قاطعی در خصوص احتمال دروغ‌گویی هوش مصنوعی در تنظیمات دنیای واقعی گرفت. اما این پژوهش نشان می‌دهد که چه مدل‌های زبانی و در چه مواقعی، توان و ظرفیت این را دارند که چنین رفتاری از خود نشان دهند.
منبع: ايتنا
کلیدواژه: چت جی پی تی چت بات هوش مصنوعی معاملات نهانی هوش مصنوعی دروغ گویی جی پی تی ۴
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.itna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۴۰۱۴۷۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
۲۵ تقلب با دستگاه‌های الکترونیکی در کنکور کشف شد
به گزارش «تابناک» به نقل از خبرگزاری صدا و سیما، عبدالرسول پورعباس رئیس سازمان سنجش آموزش کشور دیروز در حاشیه مراسم نکوداشت اساتید نمونه کشوری در گفتگو با خبرنگاران گفت: کنکور ۱۴۰۳ یکی از ایمن‌ترین آزمون‌های سراسری بود و با صحت کامل برگزار شد. واقعاً مردم خیلی خوب با سازمان سنجش همراهی کردند و فریب بازی شبکه‌های زیرزمینی که داوطلبان را اغفال می‌کنند نخوردند.
وی ادامه داد: در مجموع ۲۵ مورد تقلب در ابتدای جلسه آزمون روز پنجشنبه صبح (۶ اردیبهشت) شناسایی شد که داوطلبان تلاش کرده بودند دستگاه‌های الکترونیکی با خود داخل جلسه ببرند و در لحظه شناسایی شدند.
پورعباس گقت: این دستگاه‌ها در حد دستگاه‌های جاسوسی و پیچیده بود ولی تلاش‌های ما در مسیر اعمال امنیت به ثمر نشست، این افراد به نیروی پلیس امنیت تحویل داده شدند.
رئیس سازمان سنجش آموزش کشور بدون اشاره به اینکه داوطلبان از کدام شهرستان‌ها یا استان‌ها بودند یا جنسیت داوطلبان متقلب چه بود، گفت: این افراد به هیئت‌های بدوی و هیئت‌های تجدید نظر ارجاع می‌شوند و معمولاً برای این داوطلبان محرومیت کمتر از ۵ سال نداریم.
وی در مورد زمان برگزاری مجدد آزمون سراسری نوبت اول برای آن دسته از داوطلبان سیل‌زده روز پنجشنبه گذشته نیز توضیح داد: آزمون فقط صبح روز پنجشنبه برای این شهرستان دوباره برگزار می‌شود.
افزایش ۳۵ درصدی حقوق بازنشستگان حداقل بگیر/کمترین حقوق آن ها ۱۰ میلیون تومان می شود