هوش مصنوعی، ایمنی کودکان را در برابر سوء استفاده جنسی بالا می‌برد

غزل زیاری: حتما بارها چنین داستان هایی را شنیده اید که در آن نوجوانی در یک اپلیکیشن آنلاین تصاویر خود را برای طرف مقابل ارسال کرده و سپس تهدید به باج گیری شده است. یا یک نوجوان برای ملاقات با دوستی که به صورت آنلاین ملاقات کرده است به یک قرار می رود، اما یک قلدر ظاهر می شود.

بر اساس گزارش سازمان بهداشت جهانی، از هر سه کاربر اینترنت در سراسر جهان یک نفر کودک است و با افزایش تجاوزات جنسی آنلاین به کودکان، از تهدیدات جنسی گرفته تا ارتباطات عاطفی آنلاین، محققان در ویرجینیا تک در حال ساخت و آموزش ربات‌های چت مجهز به هوش هستند. هوش مصنوعی (AI) برای کمک به کودکان و نوجوانان برای شناسایی و اجتناب از شکارچیان سایبری و ایمن‌تر کردن دنیای دیجیتال برای نوجوانان.

مبارزه با تهدیدهای فزاینده

جین هی چو، لیفو هوانگ و سانگ وون لی از دپارتمان علوم و فناوری کامپیوتر در ویرجینیا تک بر روی این پروژه کار می کنند. جین هی چو، دانشیار علوم کامپیوتر و محقق ارشد این پروژه گفت: “به طور سنتی، امنیت سایبری بر محافظت از شبکه ها در برابر اختلال و همچنین محافظت از دستگاه ها در برابر کاربرانی که به دنبال سرقت داده ها هستند، متمرکز شده است.” اما امروزه مردم علاقه بیشتری به به اصطلاح امنیت سایبری اجتماعی نشان می دهند. ما روش‌های تعامل مردم با فناوری و نحوه تعامل مردم از طریق شبکه‌ها و دستگاه‌ها را بررسی می‌کنیم.»

وی ادامه داد: البته بیشتر این تعاملات به نفع جامعه است. زیرا علاوه بر انتشار اطلاعات، امکان آموزش، ارتباطات و تقویت همکاری را فراهم می کند که منجر به توسعه اقتصادی و نوآوری می شود. اما در عین حال خطراتی نیز به خصوص برای گروه های آسیب پذیر مانند کودکان و نوجوانان وجود دارد.

در سال 2021، نتایج یک نظرسنجی ملی ایالات متحده منتشر شد که در آن از 2639 جوان در مورد جنایات جنسی مبتنی بر فناوری که در سنین جوانی علیه آنها انجام شده است، سؤال شد. طیف وسیعی از آنها سوء استفاده های آنلاین متعددی را گزارش کردند:

• 15.6 درصد قربانی آزار جنسی آنلاین از کودکان بودند
• 11 درصد قربانی آزار جنسی بصری بودند
• 7.2 درصد پیام های جنسی (حاوی تصاویر) را بدون رضایت خود دریافت کردند
• 5.4٪ با یک بزرگسال به منظور داشتن رابطه جنسی (نظافت) رابطه دوستانه آنلاین برقرار کرده اند.
• 3.5 درصد فریب خوردند و تصاویر جنسی ارسال کردند و برای جلوگیری از افشای آنها باج گیری شدند. جنایتی به نام «کشش جنسی».

بنابراین، این روزها گروه های زیادی در تلاش هستند تا تعاملات آنلاین را ایمن تر کنند. در سال 2005، سنای ایالات متحده ماه ژوئن را به عنوان ماه ملی ایمنی اینترنت تعیین کرد تا آگاهی از خطرات اینترنت را افزایش دهد و بر لزوم آموزش ایمنی اینترنت، به ویژه در میان جوانان تأکید کند.

آموزش به کمک فناوری

بسیاری از تلاش ها برای جلوگیری از کودک آزاری آنلاین بر شناسایی عاملان جرایم آنلاین متمرکز است. اما زو معتقد است که اگرچه این اقدامات مفید هستند، اما محدود به نظر می رسند. چرا که کودکان و نوجوانان همچنان در برابر سوء استفاده کنندگان آسیب پذیر هستند.

چو چندین سال است که پروژه ای را توسعه می دهد که فراتر می رود و به کودکان می آموزد که چگونه از خود در برابر مجرمان سایبری که از کودکان و نوجوانان سوء استفاده جنسی می کنند محافظت کنند. به گفته وی، این یک چالش بزرگ است. زیرا مسائل اخلاقی زیادی در آموزش کودکان در مورد سوء استفاده کنندگان و روش های آنها دخیل است.

این پروژه جدید بر توسعه ربات‌های چت برای شبیه‌سازی تعاملات بین شکارچیان و کودکان به صورت آنلاین متمرکز است که می‌تواند برای توسعه یک برنامه آموزشی برای کودکان 11 تا 15 ساله مورد استفاده قرار گیرد.

Huang، استادیار علوم کامپیوتر، تلاش‌های خود را بر جنبه‌های مختلف هوش مصنوعی برای فعال کردن روبات‌ها متمرکز می‌کند: “من بسیار علاقه مند به استفاده از تکنیک‌های هوش مصنوعی برای حل مشکلات اجتماعی هستم.”

به این ترتیب، او از تحقیقات قبلی خود در مورد هوش مصنوعی محاوره ای استفاده می کند که از مدل های زبان بزرگ برای باورپذیر ساختن ربات های آموزشی در تعاملات انسانی استفاده می کند.

لی، یکی دیگر از استادیاران علوم کامپیوتر، در حال جمع آوری داده ها برای آموزش روبات ها است. وی با بیان اینکه این پروژه یک اثر متمایز است، گفت: زیرا نیاز به یافتن و استفاده از داده هایی در مورد نحوه تعامل کلاهبرداران آنلاین دارد. او توضیح داد: «چالش این است که هیچ مجموعه داده معتبری از مکالمات آرایش سایبری وجود ندارد که بتوان از آن برای آموزش ربات‌ها استفاده کرد، ما قصد داریم با استفاده از روش‌های انسان محور به این مشکل رسیدگی کنیم و با ایجاد یک پلتفرم اخلاقی، نوجوانان و والدینشان بتوانند کار کنند. با هم چنین داده هایی را تولید می کنند و در نتیجه آگاهی آنها از فضای مجازی افزایش می یابد.

یکی دیگر از مشارکت کنندگان این پروژه، پاملا ویسنیفسکی، دانشیار علوم کامپیوتر در دانشگاه واندربیلت و متخصص حریم خصوصی نوجوانان و ایمنی آنلاین است. به نوجوانان و کارشناسان در مورد سوء استفاده از اینترنت، پیشگیری از قاچاق جنسی، مشاوره ارائه می دهد و داده های آموزشی را ارائه می دهد و در عین حال اطمینان می دهد که چت بات ها برای استفاده خردسالان ایمن هستند.

وی گفت: امیدوارم بتوانیم ابزاری طراحی، توسعه و ارزیابی کنیم که برای آموزش خطرات فضای مجازی به نوجوانان و همچنین سازوکارهای مقابله ای برای مصون ماندن از این خطرات مفید باشد. هدف ما محدود کردن و نظارت بر استفاده از اینترنت آنها نیست. در عوض، ما قصد داریم ابزارهایی را که برای ایمن بودن آنلاین نیاز دارند در اختیار آنها قرار دهیم.

منبع: Eurekalert

54321