Cайт веб-разработчика, программиста Ruby on Rails ESV Corp. Екатеринбург, Москва, Санкт-Петербург, Новосибирск, Первоуральск

Искусственный интеллект американского дрона решил ликвидировать оператора на испытаниях

Беспилотник Военно-воздушных сил (ВВС) США, управляемый искусственным интеллектом (ИИ), решил ликвидировать оператора, чтобы тот не мешал дрону выполнять свою задачу в ходе имитационных испытаний. Об этом сообщает газета The Guardian.

«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. И система приняла решение убить оператора, потому что он мешал ей выполнить задачу», — сказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.

Полковник добавил, что после того, как в систему ввели штрафы за атаки на оператора, дрон начал разрушать вышку связи, которую использовали для связи с беспилотником.

Гамильтон подчеркнул, что нельзя говорить об искусственном интеллекте, автономии и машинном обучении, умалчивая об искусственном интеллекте и этике. Отмечается, что в ходе испытаний ни один человек не пострадал.

В мае почетный профессор Калифорнийского университета в Беркли Стюарт Рассел выразил мнение, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять и станут опасными.

В марте 2022 года стало известно, что ученые из компании Collaborations Pharmaceuticals разработали ИИ, способный придумать десятки тысяч видов химического оружия.

Лента.ru