Зараз у Каліфорнії відбувається поступове прийняття суперечливого законопроекту SB 1047, який має на меті запровадити жорсткі правила для індустрії штучного інтелекту. Законопроєкт може притягнути розробників ШІ до відповідальності, якщо результати його роботи нашкодять людям.
ШІ. Image: Pixabay
Законопроєкт SB 1047 та реакція на нього
Схвалений у четвер Комітетом з питань асигнувань Асамблеї штату, законопроєкт запроваджує вимоги безпеки для розробників ШІ і може покласти на них відповідальність за потенційно шкідливі результати роботи їхніх ШІ-моделей.
Законопроєкт викликав значну негативну реакцію з боку великих технологічних компаній, в тому числі OpenAI, які раніше висловлювали підтримку регулюванню ШІ. Ці компанії, а також деякі політики стверджують, що запропоноване законодавство може придушити інновації в секторі ШІ.
Джейсон Квон, директор зі стратегії OpenAI, висловив свою стурбованість у листі до сенатора штату Скотта Вінера, автора законопроєкту. Квон попередив, що SB 1047 може поставити під загрозу лідерство Каліфорнії в галузі ШІ, сповільнити темпи технологічного прогресу та змусити інженерів і підприємців покинути штат у пошуках менших обмежень.
Потенційні наслідки
Законопроєкт надає генеральному прокурору Каліфорнії повноваження домагатися судових заборон проти компаній, які випускають небезпечні моделі штучного інтелекту, згідно з доповіддю Platformer. У разі успішного судового позову компанія може зіткнутися з цивільно-правовими санкціями, хоча законодавство не передбачає кримінальних наслідків.
- Щоб відповідати запропонованому закону, розробники ШІ будуть зобов’язані проводити тестування безпеки моделей, які або коштують понад 100 мільйонів доларів, або вимагають значних обчислювальних потужностей.
- Законодавство також вимагає, щоб моделі ШІ були обладнані “вимикачем”, який може деактивувати їх у надзвичайних ситуаціях.
- Крім того, законопроєкт вимагатиме від розробників проходити незалежний аудит, щоб гарантувати, що їхні методи безпеки відповідають правовим стандартам.
Він також пропонує посилений правовий захист для інформаторів, які викривають небезпечні практики ШІ.
Розробники ШІ не задоволені
Законопроєкт піднімає широке питання про те, хто повинен нести відповідальність за шкоду, спричинену технологіями, – творці технологій чи їхні користувачі? Історично склалося так, що соціальні медіа-платформи не несуть відповідальності за контент, створений користувачами, і компанії, що займаються розробкою ШІ, сподіваються на подібний захист.
Однак системи штучного інтелекту схильні до “галюцинацій” і можуть бути обмануті, щоб обійти заходи безпеки, що викликає занепокоєння щодо наслідків притягнення розробників до відповідальності за такі проблеми.
Технологічні компанії стверджують, що таке регулювання є передчасним і може завадити розвитку ШІ на стадії розробки.
Наразі законопроєкт очікує голосування в повному складі Асамблеї, яке має відбутися до кінця місяця, після чого він буде направлений на затвердження губернатору Гевіну Ньюсому. У разі прийняття SB 1047 може створити прецедент для регулювання ШІ, що матиме значні наслідки для майбутнього індустрії.
