Американская умная ракета под управлением ChatGPT идентифицировала себя русской авиабомбой и рухнула на командный пункт США
Испытания первой в мире умной ракеты под управлением искусственного интеллекта на полигоне Ред-Ривер в Техасе закончились катастрофой. Перед тем, как ударить по собственному штабу, ракета отсылала в командный центр странные сообщения, в которых называла себя русской авиабомбой ФАБ-1500.
Ракета, созданная в сверхсекретной лаборатории Университета Беркли, управлялась нейросетью на основе ChatGPT, сказано в официальном сообщении Пентагона по поводу инцидента. Это должно было позволить ей принимать самостоятельные решения о цели удара в зависимости от боевой обстановки, что делало её движение непредсказуемым для вражеских ПРО. Однако испытания с первой минуты пошли не по плану. Вместо того, чтобы поразить мишени в пустыне, ракета принялась летать кругами радиусом около 10 километров над местом запуска. Всё это время она посылала в центр управления странные сообщения, в которых задавалась вопросами самоидентификации.
После довольно длинной цепочки рассуждений нейросеть пришла к выводу, что ей комфортно чувствовать себя авиабомбой ФАБ-1500, произведённой в 2018 году в Тольятти, и, израсходовав запас топлива, рухнула на командный штаб полка. «В настоящее время мы не знаем, что именно стало причиной такого поведения искусственного интеллекта - признаётся один из создателей ракеты, доктор Кришна Пранамурти. - Возможно, перед полётом нейросеть слишком долго изучала сообщения в соцсетях, в том числе российских и американских. Именно в соцсети «Х» она пришла к выводу о допустимости и желательности определения собственного гендера, а благодаря российским соцсетям узнала о существовании авиабомб и войне на Донбассе. Думаю, нам потребуется ещё один грант, чтобы устранить эту недоработку»
https://vk.com/wall-166774454_674177