احتمال تصویب قانون حفظ حریم خصوصی کودکان در برابر هوش مصنوعی

رادیو SBC استرالیا- چند ماه پیش دیده بان حقوق بشر استرالیا مجموعه ایی از تصاویر کودکان استرالیایی را در مجموعه داده ای به نام LAION-5B پیدا کرد که برای آموزش هوش مصنوعی از آن استفاده می شد. بعد از آن و با اعتراض این سازمان، تصاویر از مجموعه داده‌های هوش مصنوعی حذف شده‌اند، اما حال به نظر می رسد مدل‌های هوش مصنوعی قادر به فراموش کردن مطالبی نیستند که بر روی آنها آموزش دیده‌اند، بنابراین هنوز هم می‌توانند عناصر آن تصاویر از جمله چهره‌ها را در خروجی‌های خود بازتولید کنند.

این یافته های جدید باعث شده است که دولت فدرال در ماه آینده تغییرات پیشنهادی خود را در قانون حفظ حریم خصوصی از جمله حمایت‌های ویژه برای کودکان به پارلمان ارائه کند.
محققان دیده‌بان حقوق بشر (HRW) می گویند که حریم خصوصی کودکان استرالیایی در مقیاس وسیع توسط صنعت هوش مصنوعی (AI) نقض می شود و از تصاویر شخصی، نام ها، مکان ها و سن برای آموزش برخی از مدل های پیشرو هوش مصنوعی در جهان استفاده می شود از جمله تصویر یک نوزاد تازه متولد شده که هنوز با بند ناف به مادرش متصل است، کودکان پیش دبستانی در حال نواختن آلات موسیقی و دخترانی با لباس شنا در کارناوال ورزشی مدرسه.

‏HRW معتقد است که این تصاویر از سایت‌های اشتراک‌گذاری عکس و ویدئو از جمله یوتیوب، فلیکر، اینستاگرام، فیسبوک و پلتفرم‌های وبلاگ‌نویسی و همچنین سایت‌هایی که بسیاری گمان می‌کنند خصوصی هستند برداشت شده‌اند.

هی جونگ هان، محقق حقوق کودکان و فناوری در HRW، می گوید: لحظه های معمولی کودکان ما ضبط و ثبت شده و در این مجموعه داده قرار گرفته است.

خانم هی جونگ می گوید: از نمونه‌ای که من به آن نگاه کردم، به نظر می‌رسد که کودکان بیش از حد در این مجموعه داده حضور دارند که در واقع بسیار عجیب است. این ممکن است به ما سرنخی بدهد که چگونه این مدل‌های هوش مصنوعی، می‌توانند تصاویر بسیار واقعی از کودکان تولید کنند.

این تصاویر با استفاده از یک ابزار خودکار معمولی به نام “خزنده وب” جمع‌آوری شده‌اند که برای جستجو در اینترنت برای یافتن محتوای خاص برنامه‌ریزی شده است.
هی جونگ هان ادامه داد که بسیاری از عکس‌ها توسط مدارس یا عکاسانی که توسط خانواده‌ها استخدام شده‌اند در سایت ها یا پلتفورم های اجتماعی آپلود شده‌اند که این تصاویر به راحتی از طریق جستجو در نسخه‌های عمومی وب‌سایت‌هایی که از آن آمده‌اند قابل یافتن نیستند.

برخی از تصاویر همچنین با زیرنویس‌های بسیار خاصی همراه بودند که اغلب شامل نام کامل کودکان، محل زندگی آنها، بیمارستان‌هایی که در آن‌ها حضور داشته‌اند و سن آن‌ها هنگام گرفتن عکس می‌باشد.
به گفته پروفسور سیمون لوسی، مدیر موسسه استرالیایی یادگیری ماشین در دانشگاه آدلاید این افشاگری ها زنگ خطری برای این صنعت است.
وی می گوید که هوش مصنوعی در مرحله “غرب وحشی” قرار گرفته است.

مجموعه داده های LAION-5B برای آموزش بسیاری از مدل های پیشرو هوش مصنوعی در جهان، مانند Stable Diffusion و Midjourney توسط میلیون ها نفر در سراسر جهان استفاده می شود که توسط یک سازمان غیرانتفاعی آلمانی به نام LAION ایجاد شده است.

در بیانیه ای که سخنگوی LAION منتشر کرده آمده است که مجموعه داده های این سازمان فقط مجموعه ای از پیوندها به تصاویر موجود در اینترنت عمومی هستند و از تصاویر خصوصی استفاده نشده است و موثرترین راه برای افزایش ایمنی، حذف اطلاعات خصوصی کودکان از اینترنت عمومی است.

در سال 2023 محققان در دانشگاه استنفورد صدها تصویر شناخته شده از موارد سوء استفاده جنسی از کودکان (CSAM) را در مجموعه داده LAION-5B پیدا کردند.
‏LAION مجموعه داده خود را آفلاین کرد و قبل از اینکه مجموعه را دوباره در دسترس عموم قرار دهد شروع به حذف داده ها کرد.
به همین شکل این سازمان اقداماتی را برای حذف تصاویر کشف شده توسط HRW از کودکان استرالیایی انجام داده است حتی اگر قبلاً برای آموزش ژنراتورهای مختلف هوش مصنوعی از آنها استفاده شده باشد.

در بیانیه Lalon آمده است: ما می توانیم تأیید کنیم که همه داده های خصوصی کودکان استرالیایی گزارش شده توسط HRW را حذف می کنیم.
با اینحال خانم هی جونگ می گوید: مدل هوش مصنوعی قادر است آنچه را که از این نوع تصاویر می آموزد دوباره سازی کند حتی اگر در سرور خود دیگر به آنها دسترسی ندلشته باشد.

وی می گوید: ما به حضور و اقدام جدی دولت‌ها نیاز داریم که از جامعه خود دفاع کنند.
در حالی که استفاده از داده های کودکان برای آموزش هوش مصنوعی ممکن است نگران کننده باشد کارشناسان می گویند قانون در مورد آن مبهم هستند.
پروفسور ادوارد سانتو‌کمیسر سابق حقوق بشر و مدیر فعلی موسسه فناوری انسانی استرالیا می گوید: موردهای بسیار بسیار کمی وجود دارد که نقض حریم خصوصی منجر به اقدامات نظارتی شود.
وی ادامه داد: همچنین برای شهروندانی که ممکن است بخواهند یک اقدام مدنی در مورد آن انجام دهند بسیار دشوار است. این یکی از دلایل متعددی است که ما باید قانون حفظ حریم خصوصی استرالیا را مدرن کنیم.

انتظار می رود که دولت فدرال ماه آینده تغییرات پیشنهادی را در قانون‌از جمله حمایت های ویژه از کودکان به صورت آنلاین، رونمایی کند.
آقای سانتو می گوید که این یک به روز رسانی طولانی مدت برای قانونی است که عمدتاً قبل از ایجاد اینترنت نوشته شده بود. ما اکنون لحظه‌ای داریم که به دولت‌ها نیاز داریم تا واقعاً از جامعه دفاع کنند زیرا به زودی و در یکی دو سال آینده آن لحظه نیز می‌گذرد.
این مدل‌های هوش مصنوعی همگی ایجاد شده‌اند و هیچ راه آسانی برای کشف اشتباه وجود نخواهد داشت.

دیده‌بان حقوق بشر نیز خواستار اصلاح فوری قوانین شده است.

خبر: رادیو اس بی سی استرالیا
Copyright © Radio SBC Australia. All Rights Reserved
Seven Broadcasting Corporation