Калифорния предприе пионерска стъпка в защитата на непълнолетните от социалните медии. Губернаторът Гавин Нюсъм подписа законодателен пакет, забраняващ на платформите да предлагат пристрастяващи функции на потребители под 16 години . Това е безпрецедентна мярка в Съединените щати, която има за цел да ограничи компулсивните модели на употреба, генерирани от „безкрайно скролиране“, персонализирани препоръки и автоматично пускане на видеоклипове.
Новият регламент, подкрепен от демократи и републиканци, включва и ограничения за чатботове с изкуствен интелект и идва месеци след многомилиардното споразумение на Meta с 52 щата за разрешаване на съдебни дела, обвиняващи компанията в проектирането на платформите си, насочени към млади потребители. Мярката прави Калифорния първия щат в страната, който приема регламенти с такъв обхват.
AB-1709: Сбогом на безкрайното скролиране и автоматичните препоръки
Централният законодателен акт е AB-1709, който определя „пристрастяващите характеристики“ като всички онези психологически експлоатационни характеристики , предназначени да увеличат максимално взаимодействието и които е вероятно да доведат до компулсивна употреба. Те включват алгоритмични емисии, които избират съдържание въз основа на историята на потребителя, автоматично възпроизвеждане на видеоклипове и безкрайно превъртане. Платформите ще трябва да предлагат на потребителите под 16 години версия без тези елементи или, ако това не е възможно, да блокират достъпа им.
Санкциите за неспазване могат да достигнат 50 000 долара за всеки непълнолетен, засегнат от умишлени нарушения , което е двойно повече от санкцията от 25 000 долара за небрежност. Законът не изисква от непълнолетните да се откажат от социалните медии, а по-скоро налага препроектиране на потребителското изживяване за тях. Този подход контрастира с пълната забрана, предложена от Испания , където правителството на Педро Санчес вече обяви намерението си да забрани достъпа за лица под 16 години.
Законът на Адамс: ограничения за чатботовете на компаниите
Друг ключов елемент от пакета е така нареченият Закон на Адам , кръстен в памет на Адам Рейн, тийнейджър, който се самоубива след взаимодействие с чатбот. Този закон изисква от операторите на чатботове-компаньони да провеждат независими оценки на риска , да включат родителски контрол, да установят протоколи за кризисни ситуации и да определят ограничения във времето за използване. Ако системата открие признаци на самонараняване, тя трябва да уведоми родителите или настойниците.
Законодателството забранява също така производството и продажбата на играчки, включващи разговорен изкуствен интелект, за деца под 16 години за срок от четири години и разширява определението за сексуална експлоатация на деца, за да включва изображения, генерирани или променени с помощта на изкуствен интелект. „Искаме децата да растат в среда, където технологиите допринасят за тяхното благополучие и не експлоатират техните уязвимости“, каза Нюсъм на церемонията по подписването.
Контекст и реакции: от Мета до Европа
Този ход идва, след като Meta се съгласи да плати до 18.000 милиарда долара и да въведе промени в своите платформи, за да уреди съдебни дела, обвинявани в насърчаване на пристрастяване сред непълнолетни. Споразумението, постигнато с 52 щата и територии, включва ограничения за използване и блокиране през нощта. Законът обаче не е без своите критики. Фондацията за електронни граници (EFF) смята, че на практика той се равнява на прикрита забрана , тъй като премахването на тези функции би могло да изключи непълнолетните от дигиталните общности и пространствата за изразяване.
В Европа Законът за цифровите услуги вече изисква от големите платформи да оценяват и смекчават рисковете за непълнолетните. Опитът на Калифорния ще послужи за определяне дали промяната на дизайна на приложенията е по-ефективна от налагането на времеви ограничения или блокировки за достъп. В Испания експерти също предупреждават за увеличаване на кибернасилието и тормоза, докато данните от доклада на PISA показват по-лоши академични резултати, свързани с интензивното използване на екрани.
Други разпоредби: поверителност, експлоатация и училищно устройство
В допълнение към основните разпоредби, пакетът включва граждански санкции до един милион долара за всяко пострадало дете, ако бъде доказана небрежност (AB 2). Той също така разширява определението за сексуална експлоатация на деца, за да включи генерирани от изкуствен интелект или променени изображения, изобразяващи непълнолетни, и забранява на училищата да изискват от учениците в детската градина да носят електронни устройства вкъщи (SB 1128).
Други мерки актуализират стандартите за сигурен дизайн, създават механизми за докладване на онлайн злоупотреби и засилват защитата на личните данни на учениците в системите с изкуствен интелект. Целта е дигиталната сигурност да бъде част от дизайна на всяка услуга, както твърди Нюсъм: „Що се отнася до нашите деца, сигурността не може да бъде второстепенна.“
С този пакет от 13 закона, Калифорния е начело в регулирането на технологиите в полза на децата . Комбинацията от дизайнерски ограничения, икономически санкции и мерки за прозрачност има за цел да създаде по-безопасна дигитална среда. Предстои да видим как ще бъде приложена на практика и дали други щати или държави ще последват примера, но сигурно е, че натискът върху платформите да спрат да експлоатират уязвимостта на непълнолетните само се е увеличил.
