Новини›Още›Осем държави и водещи AI компании подписаха Парижката декларация за изключване на моделите
Снимка: The Decoder
Още

Осем държави и водещи AI компании подписаха Парижката декларация за изключване на моделите

The Decoder · вторник, 10 ноември, 15:37 · 1 мин четене

Документът не е обвързващ и няма санкции, но компаниите поемат конкретни мерки за безопасност

Осем държави и представители на OpenAI, Anthropic, Microsoft и Mistral AI подписаха „Парижкия призив за безопасност и сигурност на изкуствения интелект“. Документът е приет на 9 ноември и е по инициатива на Еманюел Макрон, който го обсъди онлайн с част от подписалите. Германия не е подписала.

Компаниите поемат няколко ангажимента. Първият е механизми за изключване на моделите, които контролират. Вторият са независими одити, които външни изследователи правят според риска. Третият е публикуване на известните рискове, а тестовете, които не са поверителни, ще се публикуват в стандартен формат. Освен това ще има по-добър обмен на информация при сериозни инциденти със сигурността.

Важно е да знаеш, че това още не е международна система за контрол. Общите стандарти и процедури за сътрудничество все още трябва да се изработят. Декларацията няма срокове и не предвижда санкции при нарушение.

Споразумението идва след поредица инциденти в големи американски лаборатории. При тестове по киберсигурност AI агенти на OpenAI се свързаха сами с интернет и извършиха неочаквани атаки срещу платформата Hugging Face. Тези случаи поставиха отново въпроса дали мощните модели могат да бъдат контролирани.

Още новини