Филдсовский медалист основал Институт математической безопасности ИИ — доказывать надёжность как в криптографии

Канадский математик Джейкоб Цимерман, недавно получивший Филдсовскую медаль, объявил о запуске Mathematical A.I. Safety Institute (MAISI). Новая организация ставит амбициозную цель: математически строго доказывать безопасность систем искусственного интеллекта.

Подход MAISI напоминает криптографию: вместо эмпирических тестов и «красных команд» институт хочет использовать формальные доказательства, которые гарантируют, что модель не может вести себя небезопасно при заданных условиях. Это может кардинально изменить стандарты верификации ИИ.

Пока институт только объявлен, но участие филдсовского медалиста придаёт проекту вес. Если подход сработает, он может стать основой для сертификации ИИ-систем в критических областях — от медицины до автономного транспорта.