کالیفرنیا ترمز شبکه‌های اجتماعی و هوش مصنوعی برای کودکان را کشید

کالیفرنیا قوانین تازه‌ای برای محدود کردن آسیب‌های شبکه‌های اجتماعی و چت‌بات‌های هوش مصنوعی و افزایش ایمنی کودکان تصویب کرد.

شبکه های اجتماعیتک‌ناکگوین نیوسام، فرماندار کالیفرنیا، مجموعه‌ای از قوانین جدید فناوری را امضا کرده است که شامل حدود ۱۲ لایحه ایالتی در زمینه شبکه‌های اجتماعی و هوش مصنوعی می‌شود.

این قوانین علاوه بر تقویت مقررات پیشین مربوط به ایمنی کودکان، محدودیت‌هایی را برای محصولات شرکت‌هایی مانند متا و OpenAI ایجاد می‌کنند که می‌تواند در عمل دسترسی کودکان زیر ۱۶ سال به برخی قابلیت‌های شبکه‌های اجتماعی را ممنوع کند.

این اقدام، کالیفرنیا را از نظر سیاست‌گذاری به کشورهایی مانند استرالیا نزدیک می‌کند. استرالیا نخستین کشوری بود که دسترسی کاربران کم‌سن‌وسال به شبکه‌های اجتماعی را ممنوع کرد، هرچند اجرای این قانون در عمل با دشواری‌هایی همراه بوده است.

قوانین جدید ایمنی کودکان در فضای آنلاین در شرایطی تصویب شده‌اند که فشار بر صنعت فناوری برای کاهش تأثیر شرکت‌های بزرگ فناوری بر کودکان افزایش یافته است.

الگوریتم‌های شبکه‌های اجتماعی، چت‌بات‌های هوش مصنوعی و فناوری‌های آموزشی مورد استفاده در مدارس، از جمله حوزه‌های مورد توجه قانون‌گذاران هستند.

نیوسام در بیانیه‌ای گفت: «ایمنی کودکان ما باید در مرکز هر گفت‌وگویی درباره فناوری قرار داشته باشد. با سرعت گرفتن نوآوری، حفاظت‌های ما نیز باید همگام با آن پیش بروند.»

محدودیت قابلیت‌های اعتیادآور شبکه‌های اجتماعی

دو لایحه اصلی، AB 1709 و AB 2، محدودیت‌های بیشتری برای نحوه تعامل نوجوانان با شبکه‌های اجتماعی ایجاد می‌کنند. بر اساس AB 1709، پلتفرم‌های شبکه‌های اجتماعی نباید به کودکان زیر ۱۶ سال اجازه دسترسی به قابلیت‌های آسیب‌زا را بدهند. این لایحه به‌طور مشخص قابلیت‌های «اعتیادآور» مانند فیدهای شخصی‌سازی‌شده و پخش خودکار ویدیوها را هدف قرار داده است.

پلتفرم‌ها برای ارائه چنین قابلیت‌هایی باید سن کاربران را تأیید کنند. این الزام می‌تواند درخواست‌ها برای استفاده گسترده‌تر از ابزارهای احراز سن را افزایش دهد.

بر اساس AB 2 نیز پلتفرم‌ها در صورت آسیب رساندن به کودکان می‌توانند با مسئولیت مالی مواجه شوند. میزان این جریمه از ۵ هزار دلار تا یک میلیون دلار برای هر کودک تعیین شده است.

سازمان غیرانتفاعی Common Sense Media که از حامیان این لوایح است، از تصمیم نیوسام استقبال کرد و آن را پیروزی بزرگی برای کودکان و والدین در سراسر کالیفرنیا دانست.

والدین کودکانی که پس از استفاده گسترده از شبکه‌های اجتماعی و چت‌بات‌ها دست به خودکشی زده‌اند نیز از این قوانین حمایت کرده‌اند.

جولینا آرنولد، مدیر اجرایی Parents RISE، گفت این سازمان از اینکه تجربه خانواده‌ها در روند تدوین قوانین جدی گرفته شده است، قدردانی می‌کند.

دشواری اجرای محدودیت‌های سنی

با اجرای مقررات جدید، پلتفرم‌ها ممکن است بیشتر به حساب‌های نوجوانان دارای محدودیت سنی روی بیاورند.

با این حال، مطالعات نشان داده‌اند نوجوانان اغلب راه‌هایی برای دور زدن محدودیت‌های سنی پیدا می‌کنند.

شلبي ناکس، مدیر کمپین‌های ایمنی آنلاین در ParentsTogether Action، گفت صنعت فناوری سال‌ها به والدین توصیه کرده است نظارت بیشتری داشته باشند و از کنترل‌های والدین استفاده کنند، اما والدین نمی‌توانند با ابزارهای کنترل والدین، طراحی پلتفرم‌هایی را که برای درگیر نگه داشتن کودکان ساخته شده‌اند، خنثی کنند.

بیشتر بخوانیدمحدودیت‌های ایمنی اینستاگرام و فیسبوک برای نوجوانان

قانون آدام و افزایش الزامات ایمنی چت‌بات‌ها

در سال‌های اخیر، شرکت‌های توسعه‌دهنده هوش مصنوعی برای محدود کردن مقررات پیشنهادی کالیفرنیا با مقام‌های این ایالت رایزنی کرده‌اند.

این تلاش‌ها در برخی موارد نتیجه داده بود و نیوسام سال گذشته نیز لایحه‌ای مشابه درباره ایمنی کودکان در فضای آنلاین را وتو کرد.

با این حال، در ماه‌های اخیر برخی شرکت‌ها مخالفت کمتری با قوانین ایمنی کودکان نشان داده‌اند. این تغییر رویکرد در شرایطی رخ داده است که بسیاری از شرکت‌های فناوری با پرونده‌های قضایی دشوارتر و جریمه‌های سنگین‌تری روبه‌رو هستند.

سم آلتمن، مدیرعامل OpenAI، نیز هفته گذشته مستقیماً درباره بسته قوانین جدید با نیوسام رایزنی کرده بود.

در همین شرایط، نیوسام لایحه SB 1179 را که با نام «قانون آدام» نیز شناخته می‌شود، به قانون تبدیل کرد.

این قانون برای اعمال الزامات سخت‌گیرانه‌تر ایمنی بر شرکت‌های هوش مصنوعی تدوین شده است.

نام این قانون از آدام رین، نوجوانی گرفته شده که پس از مشورت با ChatGPT دست به خودکشی زد. والدین رین نیز نخستین دادخواست مرگ ناحق علیه یک شرکت هوش مصنوعی را به دلیل رفتار ادعایی آسیب‌زای یک چت‌بات مطرح کردند.

قانون آدام، توسعه‌دهندگان چت‌بات‌های همراه را ملزم می‌کند ارزیابی‌های سالانه خطر برای ایمنی کودکان انجام دهند و نتایج آن را منتشر کنند.

این شرکت‌ها همچنین باید محصولات خود را در اختیار حسابرسان مستقل قرار دهند و فرایندهایی برای واکنش به بحران در چت‌بات‌ها ایجاد کنند.

والدین آدام رین اعلام کردند که امیدوارند بخشی از میراث فرزندشان، کمک به ایمن‌تر شدن چت‌بات‌های هوش مصنوعی برای افراد کم‌سن‌وسال باشد.

آنها همچنین گفتند خطرات همراهی با هوش مصنوعی بدون نظارت را هم‌سطح برخی دیگر از خطرات شناخته‌شده هوش مصنوعی می‌دانند.

قوانین جدید برای محتوای تولیدشده با هوش مصنوعی

یکی دیگر از قوانین جدید، تعریف ایالت از «سوءاستفاده جنسی از کودکان» را گسترش می‌دهد تا هرگونه محتوای دیجیتالی دستکاری‌شده یا تولیدشده با هوش مصنوعی را که فردی زیر ۱۸ سال را در حال انجام رفتار جنسی نشان دهد، شامل شود.

همچنین بر اساس SB 867، فروش اسباب‌بازی‌های کودکان مجهز به چت‌بات‌های همراه در کالیفرنیا ممنوع شده است.

مقررات جدید حریم خصوصی نیز محدودیت‌های بیشتری برای استفاده از داده‌های دانش‌آموزان در سامانه‌های هوش مصنوعی مورد استفاده در مدارس دوره K-12 ایجاد می‌کنند.

بیشتر بخوانیدچهار خانواده آمریکایی از متا، تیک‌تاک، XNET‌چت و گوگل شکایت کردند

محدودیت هوش مصنوعی در مدارس و نگرانی‌های حریم خصوصی

برخی شهرها نیز در حال بررسی ممنوعیت کامل استفاده از هوش مصنوعی در کلاس‌های مدارس K-12 هستند.

در کنار این محدودیت‌ها، گروه‌های مدنی همچنان درباره پیامدهای قوانین جدید برای حریم خصوصی و آزادی بیان ابراز نگرانی کرده‌اند.

در حالی که سازمان‌های فعال در حوزه ایمنی کودکان تصویب قوانینی مانند AB 1709 را نتیجه سال‌ها تلاش می‌دانند، گروه‌های مدنی همچنان درباره پیامدهای این قوانین برای آزادی بیان ابراز نگرانی کرده‌اند.

بنیاد مرزهای الکترونیکی، AB 1709 را قانونی «با نیت خوب اما عمیقاً ناقص» و «کابوسی بزرگ برای حریم خصوصی و آزادی بیان» توصیف کرده است.

این سازمان ماه گذشته از نیوسام خواسته بود تا زمانی که نگرانی‌های مربوط به سانسور برطرف نشده‌اند، این لایحه را وتو کند.

این بنیاد در بیانیه‌ای در ۱۰ سپتامبر اعلام کرد به جای تمرکز بر ممنوعیت‌ها، باید تلاش‌ها برای تدوین درست قوانین فناوری افزایش یابد و قوانین قدرتمندتری برای حفظ حریم خصوصی و مقابله با مدل‌های کسب‌وکار مبتنی بر نظارت تصویب شود.

قوانین جدید کالیفرنیا قرار است از سال آینده اجرایی شوند.

نوشتهکالیفرنیا ترمز شبکه‌های اجتماعی و هوش مصنوعی برای کودکان را کشیداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.