فناوری

به گزارش مجاهدت از مشرق، از سایت AP، شرکت متاپلتفرمز (Platforms Meta)، شرکت مادر اینستاگرام، روز سه‌شنبه اعلام کرد که اینستاگرام آزمایش استفاده از هوش مصنوعی (Artificial Intelligence یا AI) برای تشخیص دروغ‌گویی کاربران نوجوان درباره سن واقعی‌شان را در این اپلیکیشن را آغاز کرده است.

به گفته متا، این شرکت مدتی است که از هوش مصنوعی برای تخمین سن کاربران استفاده می‌کند؛ اما از این پس، اپلیکیشن اشتراک‌گذاری عکس و ویدیو به‌صورت «فعالانه» به‌دنبال حساب‌هایی مشکوک خواهد بود که به نوجوانان تعلق دارند حتی اگر هنگام ثبت‌نام تاریخ تولد نادرستی وارد کرده باشند.

اگر مشخص شود کاربری سن واقعی خود را نادرست اعلام کرده، آن حساب کاربری به‌صورت خودکار به یک حساب نوجوان (Teen Accunt) تغییر وضعیت خواهد داد. حسابی که محدودیت‌های بیشتری نسبت به حساب بزرگسال دارد. حساب‌های نوجوان به‌صورت پیش‌فرض خصوصی (Private) هستند. در این حساب‌ها، پیام‌های خصوصی محدود شده‌اند؛ یعنی نوجوانان تنها می‌توانند از افرادی که آنها را دنبال می‌کنند یا با آنها در ارتباط هستند پیام دریافت کنند.

همچنین، محتواهای حساس (Content Sensitive) مانند ویدیوهای مربوط به دعوا یا مطالب ترویج‌دهنده جراحی‌های زیبایی برای این کاربران محدود می‌شود. علاوه بر آن، اگر نوجوانان بیش از ۶۰ دقیقه در اینستاگرام بمانند، نوتیفیکیشن هشدار دریافت می‌کنند.

حالت خواب (Sleep Mode) نیز فعال می‌شود که از ساعت ۱۰ شب تا ۷ صبح اعلان‌ها را خاموش کرده و به پیام‌های مستقیم (Messages Direct) به‌صورت خودکار پاسخ می‌دهد. متا می‌گوید که الگوریتم هوش مصنوعی خود را با تحلیل سیگنال‌هایی مانند نوع محتوایی که کاربر با آن تعامل دارد، اطلاعات موجود در پروفایل و زمان ساخت حساب، آموزش داده تا بتواند سن کاربر را تخمین بزند.

تشدید اقدامات در واکنش به نگرانی‌های اجتماعی این اقدامات سخت‌گیرانه‌تر در حالی اجرا می‌شوند که شرکت‌های رسانه اجتماعی با فشار فزاینده‌ای در رابطه با تأثیر پلتفرم‌هایشان بر سلامت روانی و بهزیستی نوجوانان مواجه شده‌اند. در عین حال، تعداد فزاینده‌ای از ایالت‌های آمریکا در حال تلاش برای تصویب قوانین احراز هویت سنی هستند هرچند این قوانین با چالش‌های حقوقی در دادگاه‌ها روبه‌رو شده‌اند.

متا و دیگر شرکت‌های رسانه اجتماعی از این ایده حمایت می‌کنند که مسئولیت احراز سن کاربران باید بر عهده فروشگاه‌های اپلیکیشن (App Stores) باشد. این در حالی است که این شرکت‌ها به‌طور فزاینده‌ای با انتقادهایی روبه‌رو هستند مبنی بر اینکه تلاش کافی برای ایمن‌سازی محصولات خود برای کودکان انجام نمی‌دهند یا جلوی استفاده افراد زیر ۱۳ سال را به‌طور مؤثر نمی‌گیرند.

اینستاگرام همچنین اعلام کرده که به والدین نوتیفیکیشن‌هایی ارسال خواهد شد که اطلاعاتی درباره اهمیت گفت‌وگو با فرزندانشان پیرامون وارد کردن سن واقعی به‌صورت آنلاین در اختیار آنها قرار می‌دهد.

به گزارش مجاهدت از مشرق، یکی از ظریف‌ترین و موذیانه‌ترین تهدیدات ناشی از هوش مصنوعی و فناوری‌های مرتبط، توانایی آن در دستکاری خاطرات است. مطالعات جدید نشان می‌دهد که هوش مصنوعی با چه سهولتی می‌تواند مردم را فریب دهد تا چیزهایی را به خاطر بیاورند که هرگز اتفاق نیفتاده‌اند.

به نقل از بلومبرگ، «الیزابت لافتوس»(Elizabeth Loftus) روانشناس و استاد دانشگاه کالیفرنیا، ۵۰ سال گذشته را صرف اثبات این موضوع کرده است که انسان‌ها چقدر راحت می‌توانند فریب داده شوند تا چیزهایی را به خاطر بیاورند که هرگز اتفاق نیفتاده‌اند. این اتفاق در بین دادستان‌ها و پلیس‌هایی که از شاهدان بازجویی می‌کنند بسیار رایج است.

اکنون «لافتوس» با دانشمندان «موسسه فناوری ماساچوست»(MIT) همکاری کرده است تا بررسی کنند که هوش مصنوعی چگونه می‌تواند آنچه را که فکر می‌کنیم به خاطر می‌آوریم، دستکاری کند. این دستکاری حتی زمانی رخ می‌دهد که سوژه‌ها می‌دانند در حال مشاهده متن و تصاویر تولید شده توسط هوش مصنوعی هستند.

یافته‌ها نشان می‌دهد که هوش مصنوعی می‌تواند توانایی انسان‌ها را برای کاشت خاطرات دروغین افزایش دهد.

«لافتوس» نشان داد که در یک سری از آزمایش‌های معروف که از دهه ۱۹۷۰ آغاز شد، روانشناسان با پیشنهادهای مناسب می‌توانند خاطراتی را در ذهن افراد بکارند که در کودکی در یک مرکز خرید گم شده بودند یا اینکه در یک پیک‌نیک از خوردن تخم مرغ یا بستنی توت فرنگی بیمار شده بودند. مورد آخر در واقع مردم را از تمایل به آن غذاها منصرف می‌کرد. با وجود این شواهد، ما هنوز نمی‌توانیم این ایده را که حافظه مانند یک ضبط صوت از رویدادهاست، کنار بگذاریم و این درک نادرست از ذهن، ما را آسیب‌پذیر می‌کند.

«لافتوس» گفت: افرادی که به این مدل ضبط صوت از حافظه پایبند هستند، به نظر نمی‌رسد متوجه باشند که حافظه یک فرآیند ساختاری است. مغز ما خاطرات را از تکه‌هایی که در زمان‌های مختلف به دست می‌آید، می‌سازد. ما به طور شهودی فراموشی را از دست دادن یا محو شدن خاطرات درک می‌کنیم نه افزودن جزئیات دروغین. در نظر گرفتن اینکه هوش مصنوعی چقدر مؤثر می‌تواند این نوع فریب را در مقیاس وسیع انجام دهد، ترسناک است.

وی همچنین در حال مطالعه پتانسیل مبهم نظرسنجی‌های دستکاری شده بوده است، جایی که طراحان نظرسنجی، اطلاعات نادرست را در یک سؤال جای می‌دهند.

«پت پاتارانوتاپرن»(Pat Pataranutaporn) دانشمند آزمایشگاه رسانه «MIT» خاطرنشان می‌کند: دستکاری حافظه، فرآیند بسیار متفاوتی با فریب دادن مردم با «جعل عمیق»(deep-fake) است. نیازی به ایجاد یک جعل پیچیده نیست، فقط باید مردم را متقاعد کنید که قبلاً چیزی را در آنجا خوانده‌اند. مردم معمولاً حافظه خود را زیر سؤال نمی‌برند.

«جعل عمیق» یا «دیپ فیک»، ترکیبی از کلمه‌های «یادگیری عمیق» و «جعلی» است که یک تکنیک برای ترکیب تصویر انسان مبتنی بر هوش مصنوعی است.

پاتارانوتاپرن نویسنده ارشد سه آزمایش حافظه بود که اولین آنها نشان داد چگونه بازجویان هوش مصنوعی می‌توانند شهادت شاهد را تنها با جای دادن پیشنهادها در سؤالات خود تغییر دهند. شرکت‌کنندگان، ویدئویی از یک سرقت مسلحانه را تماشا کردند. سپس از برخی از آنها سؤالات گمراه‌کننده پرسیده شد، مانند اینکه «آیا دوربین امنیتی در نزدیکی محلی که سارقان خودرو را پارک کردند، وجود داشت؟» و حدود یک سوم از شرکت‌کنندگان بعداً به یاد آوردند که سارقان با خودرو آمده‌ بودند، اما حقیقت آن بود که اصلا خودرویی وجود نداشت. این حافظه کاذب حتی یک هفته بعد هم باقی ماند.

سوژه‌ها به سه گروه تقسیم شدند. یک گروه هیچ سؤال گمراه‌کننده‌ای دریافت نکردند، گروه دیگر آنها را به صورت کتبی دریافت کردند و گروه سوم آنها را از یک ربات چت هوش مصنوعی دریافت کردند. گروه ربات چت ۱/۷ برابر بیشتر از کسانی که اطلاعات گمراه‌کننده را به صورت کتبی دریافت کردند، خاطرات کاذب تشکیل دادند.

مطالعه دیگری نشان داد که خلاصه‌های هوش مصنوعی ناصادق یا ربات‌های چت می‌توانند به راحتی خاطرات کاذب را در داستانی که مردم می‌خوانند، وارد کنند. «پاتارانوتاپرن» گفت: آنچه نگران‌کننده‌تر است، این بود که شرکت‌کنندگانی که خلاصه‌های هوش مصنوعی گمراه‌کننده دریافت کردند، اطلاعات واقعی کمتری را از خواندن خود حفظ کردند و اعتماد کمتری به اطلاعات واقعی که به یاد آوردند، گزارش کردند.

مطالعه سوم نشان داد که هوش مصنوعی چگونه می‌تواند با استفاده از تصاویر و ویدئو، خاطرات کاذب را در ذهن بکارد. محققان ۲۰۰ داوطلب را به چهار گروه تقسیم کردند. شرکت‌کنندگان در هر گروه مجموعه‌ای از ۲۴ تصویر را مشاهده کردند. برخی تصاویر معمولی بودند که در وب‌سایت‌های خبری یافت می‌شدند، در حالی که برخی دیگر شخصی بودند، مانند عکس‌های عروسی که ممکن است کسی در رسانه‌های اجتماعی پست کند.

به هر گروه نسخه متفاوتی از تصاویر نشان داده شد. یک گروه تصاویر یکسان و بدون تغییر را مشاهده کردند. گروه دوم نسخه‌های تغییر یافته هوش مصنوعی را مشاهده کردند. گروه سوم تصاویر تغییر یافته هوش مصنوعی را که به ویدئوهای کوتاه تبدیل شده بود، مشاهده کردند. گروه نهایی تصاویر کاملاً تولید شده توسط هوش مصنوعی را مشاهده کردند که به ویدئوهای تولید شده توسط هوش مصنوعی تبدیل شده بودند.

حتی گروهی که تصاویر اصلی را دیدند، چند خاطره کاذب را به یاد آوردند، اما شرکت‌کنندگانی که در معرض هر سطحی از دستکاری هوش مصنوعی قرار گرفتند، به طور قابل توجهی خاطرات کاذب بیشتری را گزارش کردند. گروهی که بالاترین نرخ تحریف حافظه را داشت، گروهی بود که ویدئوهای تولید شده توسط هوش مصنوعی را مشاهده کرده بودند.

افراد جوان‌تر کمی بیشتر از افراد مسن‌تر مستعد گنجاندن خاطرات کاذب بودند و سطح تحصیلات به نظر نمی‌رسید بر آسیب‌پذیری تأثیر بگذارد. قابل توجه است که خاطرات کاذب به فریب دادن شرکت‌کنندگان که محتوای تولید شده توسط هوش مصنوعی واقعی است، متکی نبود و به آنها از ابتدا گفته شده بود که محتوای تولید شده توسط هوش مصنوعی را مشاهده خواهند کرد.

برخی از تغییرات شامل تغییراتی در پس‌زمینه بود. تصاویر بیشتر ویژگی‌های اصلی را حفظ کردند. طبق گفته کارشناسان اطلاعات نادرست برای داشتن تأثیر واقعی، باید داستانی را دربرگیرد که حداقل ۶۰ درصد آن درست باشد. این مطالعات جدید باید بحث‌های بیشتری را در مورد تأثیرات فناوری بر درک ما از واقعیت تحریک کند که می‌تواند فراتر از صرف انتشار اطلاعات نادرست باشد. الگوریتم‌های رسانه‌های اجتماعی نیز با ایجاد تصور غلط از محبوبیت و نفوذ، مردم را تشویق می‌کنند تا ایده‌های حاشیه‌ای و نظریه‌های توطئه را بپذیرند. ربات‌های چت هوش مصنوعی تأثیرات ظریف‌تر و غیرمنتظره‌ای بر ما خواهند داشت. همه ما باید برای تغییر عقیده‌مان با حقایق جدید و استدلال قوی آماده باشیم و نسبت به تلاش‌ها برای تغییر عقیده‌مان با تحریف آنچه می‌بینیم یا احساس می‌کنیم یا به یاد می‌آوریم، محتاط باشیم.