През февруари се появиха доклади, че операцията по залавянето на венецуелския президент Николас Мадуро не е била строго човешко дело. В извънсъдебната авантюра се оказа замесен Claude – езиковият модел на Anthropic. Армията е получила достъп до него чрез обикновено падащо меню в софтуерния пакет Maven Smart System (M.S.S.), който събира, синтезира и оптимизира разузнавателни данни.

Правителството закупува тази система от Palantir – потайния военен подизпълнител, съоснован от Питър Тийл и ексцентричния философ Алекс Карп. Използването на Claude изненада дори създателите му от Anthropic, които по-късно отказаха на Пентагона „всички законни форми на употреба“ на техните продукти, позовавайки се на опасения от масово наблюдение и автономни оръжия. Това доведе до гневен туит на министъра на отбраната Пийт Хегсет, който обяви компанията като „риск за националната сигурност“.

Забраната обаче не влезе в сила веднага. Пентагонът се нуждаеше от Claude за „една последна задача“. Дванадесет часа по-късно Белият дом започна бомбардировки над Иран. Сред жертвите в първия ден на операция „Епична ярост“ бяха над 175 души – повечето от тях малки момичета в начално училище в град Минаб. Вината на изкуствения интелект в това и други военни престъпления стана обект на остри дискусии във Вашингтон.

Журналистката Катрина Менсън в новата си книга „Проект Мейвън: Морски полковник, неговият екип и зората на AI войната“ разкрива, че дистопичната касапница не е бъдеще, а настояще. Книгата проследява биографията на Дрю Кукор, офицер от разузнаването на Морската пехота, който стои зад тази трансформация. Още в Афганистан Кукор осъзнава, че армията се дави в информация, която няма как да синтезира – цели на Ал-Кайда в таблици на Excel, мрежови връзки в PowerPoint и карти в Google Earth. Той мечтае за „единна дигитална мрежа“, която да разчисти „мъглата на войната“.

Тази визия се материализира в Проект „Мейвън“.

Днес системата е глобален апарат за наблюдение, който следи 49 000 летища по света. Но тя вече не е само за разузнаване. Менсън съобщава, че едно единствено кликване изпраща координати към конкретна оръжейна платформа. Целият процес, от идентифицирането до унищожението, отнема само четири клика. Предишната система е поразявала под сто цели на ден. Новата може да удари хиляда, а с интеграцията на езиковите модели този брой е нараснал до пет хиляди. В Иран системата е била ключова за „прецизните“ масови бомбардировки.

Технологичните лидери твърдят, че AI просто премахва човешката грешка, умората и корупцията. Но критиката, включително на учени като Кевин Бейкър, е съкрушителна. Tова, което те наричат „бюрократична мудност“ или „триене“, всъщност е мястото, където се формира човешката преценка. Когато съкратите времето за решение, това „триене“ не изчезва – вие просто спирате да го забелязвате. Хората са в този процес именно за да забавят нещата и да упражнят разум.

„Бюрокрацията, закодирана в софтуер, не се огъва. Тя се пръсва на парчета“, пише Бейкър. Когато превърнете войната в софтуер, вие унищожавате дискретността, на която институциите винаги са разчитали, дори и да не го признават. Остава само една машина, която изпълнява правила без никой, който да ги интерпретира. Накрая Менсън признава на Кукор, че просто не вярва, че AI някога ще бъде овладян чрез предпазлив надзор. Скоростта и обемът на операциите просто правят политическото решение неизбежно. „Така е“, съгласява се Кукор. „Но пак бих го направил по същия начин.“

Адаптация по материала на The New Yorker за новата ера на автоматизираното унищожение