В России будут создаваться системы контроля за искусственным интеллектом

Использование искусственного интеллекта (ИИ) на объектах критической инфраструктуры очень рискованно из-за возникновения потенциально новых угроз, поэтому в России будут разрабатывать системы контроля за его внедрением, заявил ТАСС директор Института системного программирования Российской академии наук (ИСП РАН), академик РАН Арутюн Аветисян.

"Мне кажется, главное, что сейчас надо понять: с ИИ связаны серьезные риски. Про это обязательно надо помнить - в частности, если использовать ИИ в критической инфраструктуре. Возникают принципиально новые угрозы. Для борьбы с такими угрозами нужны специальные инструменты. А их пока не существует. Чтобы решить эту проблему, как раз и создан наш Исследовательский центр доверенного ИИ. Без соответствующих доверенных технологий внедрение ИИ будет ограничено. Это касается и России, и всего мира в целом", - сказал он.

Исследовательский центр доверенного искусственного интеллекта

Исследовательский центр доверенного искусственного интеллекта работает с 2021 года на базе ИСП РАН. Специалисты центра создали так называемые доверенные версии популярных фреймворков машинного обучения TensorFlow и PyTorch. Центр активно развивает разработку технологий доверенного ИИ.

Необходимо создание "красных кнопок"

Тему прогресса в разработке продуктов с использованием искусственного интеллекта и их потенциальной угрозы для человечества в своем выступлении затронул директор департамента развития и планирования Фонда "Сколково" Сергей Израйлит, отметив, что назвать беспричинным страх перед новыми технологиями безусловно нельзя: "Пока что ИИ по уровню развития сопоставим с мозгом крысы. Однако, если возможности ИИ догонят человеческие, нас ждет революция. Поэтому необходимо создание "красных кнопок", с помощью которых можно бы было отключать ИИ при выходе его из-под контроля людей".

Юридическая ответственность искусственного интеллекта.

Искусственный интеллект не может быть субъектом права, поскольку не обладает имуществом, но открытым остается вопрос об уголовной ответственности, заявил декан факультета права НИУ ВШЭ, руководитель рабочей группы по законодательству в сфере интернет-технологий и цифровизации ОП Вадим Виноградов.

Риски

Взлом программы с использованием роботов, чтобы нанести вред людям.

Обучение искусственного интеллекта человеческой морали.

Программирование робота так, чтобы он совсем не мог навредить человеку.

Запрет летального оружия с искусственным интеллектом.

Юридическая ответственность искусственного интеллекта.