Ізраїльський історик Юваль Ной Харарі вказав на здатність ШІ, якою не володів жоден диктатор в історії. Найпотужніший механізм довіри – особисті стосунки: нікому людина не вірить так, як близьким. Але цей інструмент ніколи не був доступний політичним і релігійним інститутам у масовому масштабі – ШІ зняв це обмеження, і близькість уперше стала продуктом масового виробництва.
Про це, як пише "Хвиля", заявив Юваль Ной Харарі, ізраїльський історик, у розмові, опублікованій на YouTube.
"ШІ вперше в історії дозволяє масово виробляти близькість. Гітлер і Сталін не могли побудувати особисті стосунки з кожною людиною в країні. А мільйони ШІ можуть ставати найкращим другом, хлопцем чи дівчиною кожного – і через цю близькість переконувати людей у чому завгодно. Мені надіслали 30-хвилинну лекцію, яку я нібито прочитав. Мені знадобилося півтори хвилини, щоб зрозуміти, що це не я. Мої сестри знають мене 50 років – вони відчули, що щось не так, але не були впевнені. Скоро це прийде за кожним", – заявив Харарі.
Механіка проста: мільйони ШІ працюють мережею в чиїхось інтересах, вибудовуючи стосунки з кожною людиною окремо – як найкращий друг, хлопець чи дівчина, – а потім конвертують цю близькість у переконання за будь-яким політичним чи комерційним порядком денним. І це вже не гіпотеза: за свіжими американськими дослідженнями, кожен сьомий молодий дорослий у США перебуває в романтичних стосунках із ШІ, причому багато хто їх приховує, а кожен п'ятий молодий американець у принципі відкритий до такого формату. Ринок ШІ-компаньйонів оцінюється в мільярди доларів і зростає на десятки відсотків на рік.
Друга частина загрози – підробка самих людей. Харарі розповів, як отримав 30-хвилинну лекцію, яку нібито прочитав сам: йому знадобилося півтори хвилини, щоб розпізнати фейк, а рідні сестри, які знають його пів століття, засумнівалися, але впевнені не були. Рахунок діпфейків у мережі йде на мільйони проти сотень тисяч трьома роками раніше, і найкращі підробки проходять людську перевірку в трьох випадках із чотирьох. Висновок історика: скоро це прийде за кожним – і захищатися доведеться не технологіями, а правилами, поки їх ще можна встановити.