Илон Маск призывает ввести мораторий на обучение мощных ИИ - нейронных сетей

Илон Маск и другие технологические лидеры призывают приостановить «опасную гонку», чтобы сделать ИИ таким же продвинутым, как люди.

Илон Маск, генеральный директор Tesla и SpaceX, объединил усилия с более чем 1000 экспертами в области искусственного интеллекта, чтобы потребовать моратория на обучение мощных нейронных сетей. В открытом письме эксперты призывают временно приостановить создание нейронных сетей, которые могли бы быть использованы для разработки автономных систем вооружения или других передовых технологий искусственного интеллекта, представляющих угрозу для человечества.

Открытое письмо было подписано множеством экспертов

Открытое письмо было подписано множеством экспертов в области искусственного интеллекта, робототехники и этики, включая таких светил как Стив Возняк. Подписанты утверждают, что развитие передовых технологий искусственного интеллекта представляет серьезные риски для общества и что необходимо принять меры для обеспечения того, чтобы эти технологии разрабатывались ответственным и этичным образом.

«Должны ли мы автоматизировать все рабочие места, в том числе исполнительные? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?»

Главной заботой подписавших соглашение сторон является разработка автономных систем вооружения, которые потенциально могут быть запрограммированы на принятие решений о жизни и смерти без какого-либо контроля со стороны человека. Существует также обеспокоенность по поводу использования искусственного интеллекта для манипулирования эмоциями или действиями людей, а также разработки систем наблюдения на базе искусственного интеллекта, которые могли бы использоваться для отслеживания отдельных лиц без их ведома или согласия.

В дополнение к призыву к мораторию на разработку мощных нейронных сетей, в открытом письме также содержится призыв к увеличению инвестиций в изучение безопасности и этики искусственного интеллекта. Подписанты утверждают, что важно обеспечить, чтобы эти технологии разрабатывались прозрачным, этичным и безопасным для всех способом.

В открытом письме, подписанном Маском и соучредителем Apple Стивом Возняком, технологические лидеры призвали к шестимесячной паузе в разработке такого передового ИИ, заявив, что это представляет риск для общества.

Илон Маск был ярым критиком потенциальных рисков, связанных технологиями искусственного интеллекта

Маск, который является одним из соучредителей OpenAI, в последнее время несколько раз критиковал организацию, говоря, что, по его мнению, она отклоняется от своей первоначальной цели.

Илон Маск был ярым критиком потенциальных рисков, связанных с передовыми технологиями искусственного интеллекта, часто поднимая тревогу по поводу того, что ИИ может превзойти человеческий интеллект и представлять экзистенциальную угрозу человечеству. Объединив усилия с более чем 1000 экспертами в этой области, он надеется стимулировать действия по обеспечению того, чтобы эти технологии разрабатывались ответственным и безопасным образом.

Поскольку технологии искусственного интеллекта продолжают развиваться и становятся все более мощными, важно, чтобы мы предприняли необходимые шаги для обеспечения того, чтобы они развивались таким образом, чтобы они отражали наши ценности и устремления как общества. Призыв к мораторию на обучение мощных нейронных сетей является важным шагом в этом направлении и может помочь гарантировать, что искусственный интеллект продолжаит приносить пользу человечеству, не создавая экзистенциальной угрозы нашему будущему.