logo-cofen
Короткие Новости в России и Мире за чашечкой кофе
nashstore nashstore

Лента  
Главное   
Коментарии     26 декабря 2022

В России будут создаваться системы контроля за искусственным интеллектом

Использование искусственного интеллекта (ИИ) на объектах критической инфраструктуры очень рискованно из-за возникновения потенциально новых угроз, поэтому в России будут разрабатывать системы контроля за его внедрением, заявил ТАСС директор Института системного программирования Российской академии наук (ИСП РАН), академик РАН Арутюн Аветисян.

"Мне кажется, главное, что сейчас надо понять: с ИИ связаны серьезные риски. Про это обязательно надо помнить - в частности, если использовать ИИ в критической инфраструктуре. Возникают принципиально новые угрозы. Для борьбы с такими угрозами нужны специальные инструменты. А их пока не существует. Чтобы решить эту проблему, как раз и создан наш Исследовательский центр доверенного ИИ. Без соответствующих доверенных технологий внедрение ИИ будет ограничено. Это касается и России, и всего мира в целом", - сказал он.

Исследовательский центр доверенного искусственного интеллекта

Исследовательский центр доверенного искусственного интеллекта работает с 2021 года на базе ИСП РАН. Специалисты центра создали так называемые доверенные версии популярных фреймворков машинного обучения TensorFlow и PyTorch. Центр активно развивает разработку технологий доверенного ИИ.

Необходимо создание "красных кнопок"

Тему прогресса в разработке продуктов с использованием искусственного интеллекта и их потенциальной угрозы для человечества в своем выступлении затронул директор департамента развития и планирования Фонда "Сколково" Сергей Израйлит, отметив, что назвать беспричинным страх перед новыми технологиями безусловно нельзя: "Пока что ИИ по уровню развития сопоставим с мозгом крысы. Однако, если возможности ИИ догонят человеческие, нас ждет революция. Поэтому необходимо создание "красных кнопок", с помощью которых можно бы было отключать ИИ при выходе его из-под контроля людей".

Юридическая ответственность искусственного интеллекта.

Искусственный интеллект не может быть субъектом права, поскольку не обладает имуществом, но открытым остается вопрос об уголовной ответственности, заявил декан факультета права НИУ ВШЭ, руководитель рабочей группы по законодательству в сфере интернет-технологий и цифровизации ОП Вадим Виноградов.

Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года

Целью Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники (далее - Концепция) является определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения таких технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства. Одновременно целями Концепции являются создание предпосылок для формирования основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением технологий искусственного интеллекта и робототехники и систем на их основе, а также определение правовых барьеров, препятствующих разработке и применению указанных систем.


Риски

Взлом программы с использованием роботов, чтобы нанести вред людям.

Обучение искусственного интеллекта человеческой морали.

Программирование робота так, чтобы он совсем не мог навредить человеку.

Запрет летального оружия с искусственным интеллектом.

Юридическая ответственность искусственного интеллекта.

Искусственный интеллект

Технологии

Основные новости

контакты Еmail: web-studio@dayl.ru
Политика конфиденциальности
sitemap

Help Трейлер к сайту Cofen.ru --> https://cofen.ru/tekhnologii/v-rossii-budut-sozdavatsya-sistemy-kontrolya-za-iskusstvennym-intellektom