Home Технології Навчання армії США. Безпілотники, керовані ШІ, атакували операторів

Навчання армії США. Безпілотники, керовані ШІ, атакували операторів

3
0
Навчання армії США.  Безпілотники, керовані ШІ, атакували операторів

Навчання армії США.  Безпілотники, керовані ШІ, атакували операторів

Під час симуляції, проведеної американськими військовими, штучний інтелект використовував «дуже очікувані стратегії», щоб виконати свою місію будь-якою ціною – йдеться у доповіді, представленій на травневому саміті з питань авіації та космічного потенціалу майбутнього в Лондоні.

Це описав полковник Такер Гамільтон Штучний інтелект навіть зайшов так далеко, що «вбив» свого оператора, якщо той відмовився дати остаточне схвалення атаки. Військові пояснили, що хоча під час симуляції ніхто не помер і він не постраждав, висновки можуть бути “тривожними”.

«Система визначила ціль, за що він отримав бали за знищення. Однак людина сказала йому не атакувати. Тому система вирішила «вбити» людину, яка заважала їй досягти мети» – охарактеризував американський полководець.

ШІ хотів завершити місію будь-якою ціною. Прийняла чоловіка за “перешкоду”

Як повідомив полковник Гамільтон, військові під час випробувань визначилися перепрограмуйте AI для захисту операторів.

«Ми сказали штучному інтелекту, що він втратить бали за «вбивство» оператора. Тож що він зробив? Вона почала руйнувати вежі, якими оператори віддають накази, щоб вони не перешкодили їй досягти головної метипояснив Такер Гамільтон у записі на веб-сайті Королівського аеронавігаційного товариства.

SEE: Штучний інтелект є серйозною загрозою? «Я відчуваю себе невдахою»

Військовий, який є пілотом-випробувачем експериментальних винищувачів, застеріг від надмірної залежності від штучного інтелекту. “Не можна говорити про автономний штучний інтелект і машинне навчання, якщо не брати до уваги етику— сказав полковник Гамільтон.

Штучний інтелект в збройних силах США

Військові США зараз використовують штучний інтелект у багатьох проектах. Зараз у Пентагоні існує понад 600 ініціатив, спрямованих на посилення оборони США за допомогою ШІ. нещодавно проведені випробування літака F-16, пілотованого штучним інтелектом.

Ми маємо зіткнутися зі світом, де штучний інтелект вже існує та змінює наше суспільство. ШІ дуже крихкий, його легко обдурити та маніпулювати. Нам потрібно розробити способи зробити штучний інтелект більш надійним і краще розуміти рішення, які він приймає, наголосив полковник Такер Гамільтон в одному з попередніх інтерв’ю Defense IQ.