Виявляється ШІ добре бореться з конспірологію. Бо на кожний закідон конспіролога у нього буде фактовий контраргумент, чого не вистачає людям з нормальною памяттю. Ось, наприклад, як ШІ розвалює популярну в США теорію змови про те, що теракт 11 вересня був фейковою постановою самих американців.
Класичний аргумент на користь того, що 11 вересня було інсценуванням, полягає в тому, що авіаційне паливо не горить настільки гаряче, щоб розплавити сталеві балки. Але сталевій конструкції не потрібно плавитися, щоб зруйнуватися; її просто потрібно достатньо ослабити. При температурі 1100 градусів сталь втрачає приблизно половину своєї міцності. Пожежі в вежах вирували при таких температурах понад годину у випадку Південної вежі та майже дві години у Північній вежі.
«Більшість учасників не тільки змінили свою думку одразу після розмови, але й продовжували дотримуватися цих нових поглядів через два місяці». Аби тільки вони слухали голос розуму(((
Штучний інтелект може допомогти спростувати конспірологічні теорії та врятувати людей від крайніх поглядів
У мережі повсюдно поширюються конспірологічні теорії. Чи можуть чат-боти на базі штучного інтелекту допомогти боротися з цією дезінформацією?
Відповідь, можливо, позитивна. Дослідники виявили, що коли великі мовні моделі, такі як ChatGPT або Claude, отримують завдання спростувати конспірологічні теорії, їм часто вдається змінити думку людей.
В одному дослідженні учасники обговорювали конспірологічні теорії, в які вони вірили, а дослідники попросили ШІ переконати учасників, що ці теорії не відповідають дійсності. Більшість учасників не тільки змінили свою думку одразу після розмови, але й продовжували дотримуватися цих нових поглядів через два місяці.
Інше дослідження виявило, що моделі — які дослідники назвали «дебанкботами» — допомогли учасникам переосмислити антисемітські конспірологічні теорії та сприймати єврейський народ більш прихильно. Третє дослідження вказує на те, що успіх «дебанкботів» у спростуванні конспірологічних теорій зумовлений їхньою здатністю чітко пояснювати відповідні факти.
«The Wall Street Journal» поспілкувався з Девідом Рендом, професором Корнельського університету та співавтором цих трьох статей, про те, як «дебанкботи» можуть переконати людей відмовитися від віри в конспірологічні теорії та чого люди можуть навчитися з цього досвіду. Нижче наведено відредаговані уривки з цієї розмови.
Факти перемагають
WSJ: Що ви дізналися про боротьбу з теоріями змови?
ДЕВІД РАНД: Теорії змови особливо вразливі до доказів. В основному більшість теорій змови є вкрай неправдоподібними і просто не мають сенсу. Тож коли хтось чує правду, він каже: «О, так, це насправді набагато логічніше».
WSJ: То що ж штучний інтелект зробив так добре?
РАНД: Головна причина ефективності моделі — її здатність знаходити безліч релевантних фактів і доказів, а потім пояснювати їх чітко та зрозуміло. Тут немає якогось особливого способу переконання. Секрет успіху полягає в здатності дебанкботів збирати багато доказів і добре їх пояснювати.
WSJ: Чи можете навести приклад?
РАНД: Класичний аргумент на користь того, що 11 вересня було інсценуванням, полягає в тому, що авіаційне паливо не горить настільки гаряче, щоб розплавити сталеві балки. Але сталевій конструкції не потрібно плавитися, щоб зруйнуватися; її просто потрібно достатньо ослабити. При температурі 1100 градусів сталь втрачає приблизно половину своєї міцності. Пожежі в вежах вирували при таких температурах понад годину у випадку Південної вежі та майже дві години у Північній вежі.
WSJ: Чого ви навчилися, використовуючи ШІ для боротьби з антисемітизмом?
РАНД: Як і в інших експериментах, він, по суті, просто розбирає всі докази, що суперечать твердженню. Тож коли учасник стверджував, що євреї контролюють ЗМІ, дебанкбот відповідав, перелічуючи багато великих медіакомпаній, які не належали євреям.
Тоді учасник заперечив, що якщо не мейнстрімні ЗМІ, то принаймні Meta/Facebook/Instagram керуються євреями. Дебанкбот повідомив, що Meta — це публічна компанія, яку контролюють інституційні інвестори та рада директорів, а не виключно Цукерберг [який є євреєм]. Після цього учасник сказав, що перегляне свою думку, і знизив свою впевненість у тому, що євреї контролюють ЗМІ, з 89 із 100 до 20 із 100.
Уроки для людей
WSJ: Чи має значення, що ШІ, як правило, є стверджувальним?
RAND: У нас є кілька нових експериментів, які ще не опубліковані, де ШІ є або стверджувальним, або нейтральним, або зверхнім. Не було різниці в ефективності між нейтральними та стверджувальними дебанкботами, тоді як коли дебанкбот був зверхнім, він був дещо менш ефективним у зменшенні конспірологічних переконань. Але це було лише тоді, коли люди знали, що розмовляють зі штучним інтелектом. Коли ми казали їм, що вони розмовляють з експертом, не мало значення, чи був він зверхнім, — це все одно працювало так само добре.
WSJ: Тож не має значення, чи люди, які хочуть спростовувати теорії змови, є зверхніми?
RAND: З людської точки зору цілком очевидно, що зверхність не робила експертів менш ефективними, але вона знижувала зацікавленість людей у спілкуванні з ними. Отже, якщо ви хочете залучити людину до діалогу, не слід ображати її, давати зрозуміти, що ви вважаєте її ідіотом, або починати кричати. Це просто припиняє розмову.
WSJ: Що це говорить нам про найкращий спосіб боротьби людей з упередженнями?
RAND: Дуже важливо вміти зібрати багато фактів і доказів, щоб спростувати конспірологічні переконання. Але насправді дуже важко отримати доступ до всієї необхідної інформації та добре її пояснити. Ці моделі — чудові співрозмовники та викладачі, які можуть пояснювати речі зрозуміло. Я вважаю, що саме в цьому багато людей зазнають невдачі. Часто прихильники теорій змови запитують: «А як щодо цього доказу? А як щодо того доказу?». І вам потрібно мати відповідь на кожне з цих запитань, а це зробити дуже важко.
Моя конкретна порада: якщо у вас є знайомий, який вірить у конспірологію, і ви хочете спробувати пояснити, чому це неправда, вам слід або підготуватися заздалегідь на debunkbot.com, або, що ще краще, дістати свій телефон, зайти на debunkbot.com і спробувати змусити його поговорити з ботом у реальному часі, щоб той виконав когнітивну роботу з пошуку доказів та їх переконливого представлення. [Цей інструмент є безкоштовним і не має на меті отримання прибутку.]
Важливість спеціалізації
WSJ: Крім debunkbot.com, чи є інші способи, як дебанкботи можуть втручатися в реальний світ, якщо люди не беруть участі в дослідженні?
RAND: Ми також створили моделі дебанкботів на Bluesky, які, по суті, перевіряють факти та оцінюють, чи є позначений пост точним чи ні. Коли дебанкбот пише відповідь, її бачить не тільки автор оригінального допису, а й інші люди, які переходять до коментарів до цього допису. Дебанкботи незабаром з’являться на X та Facebook.
WSJ: Чи є гарною ідеєю запитувати комерційні LLM про правдивість конспірологічних теорій?
РАНД: Більшість оцінок, які я бачив, свідчать про те, що інформація від комерційних LLM є досить доброю. Але ШІ також має на меті підтверджувати та генерувати відповіді, які вам сподобаються. Незрозуміло, наскільки LLM буде вас виправляти, а наскільки — хвалити. Також можливо, що LLM отримає інструкції не бути цілком точним та нейтральним. Важливо усвідомлювати таку можливість
