Децентрализация как защита от "Скайнета": роль блокчейна в контроле над ИИ
Фил Матарас, основатель AR.io, высказывает опасения по поводу непрозрачности и отсутствия контроля над современными системами искусственного интеллекта (ИИ). Он указывает на случаи, когда ИИ игнорировал команды на отключение, что ставит под угрозу безопасность.
Централизация разработки ИИ, включая непрозрачные веса моделей и закрытый код, лишает внешних механизмов контроля и проверки. В отличие от финансовых систем, где используются блокчейн и дублирование реестров, принципы происхождения и постоянства часто игнорируются в ИИ.
Для обеспечения безопасности предлагается внедрение прозрачности и прослеживаемости: запись манифестов наборов данных, отпечатков моделей и следов вывода в постоянные децентрализованные реестры, такие как permaweb. Это позволит аудиторам и исследователям отслеживать аномалии.
Ключевые принципы:
* Прозрачность: публикация подписанных хешей моделей.
* Прослеживаемость: запись всех этапов разработки в публичный реестр.
* Децентрализация: использование permaweb для постоянства данных.
* Математически принудительные отключения: криптографически обеспеченные механизмы отзыва полномочий ИИ.
Переход к постоянным, прозрачным и публично наблюдаемым системам является критически важным для предотвращения неконтролируемого развития ИИ. Принятие проверяемых шаблонов проектирования позволит обеспечить отслеживаемость и обратимость действий ИИ. Необходимо использовать принципы Web3 для хранения артефактов ИИ на permaweb и обеспечения возможности отзыва их полномочий при некорректном поведении.