Ахахахаха))) «Файненшл таймс» розповів як всякі клерки почали тирити гроші компаній завдяки штучному інтелекту – тепер стало дуже просто підробляти чеки з усяких кафешок про витрати під час командировок, тощо. Раньше треба було фотошоп знать, а тепер пара команд ШІ і готово, соточка баксів за ресторан твоя. В общім, шановні бізнесмени – майте на увазі, якщо у вас теж є оплата корпоративних видатків, то вже є така опція зальоту. Ну і є як з нею боротись.
«Не вірте своїм очам»: штучний інтелект спричиняє сплеск шахрайства з витратами
Підприємства все частіше стають жертвами обману з боку співробітників, які використовують штучний інтелект для старої як світ афери: підробки квитанцій про витрати.
За даними провідних платформ програмного забезпечення для управління витратами, запуск нових моделей генерації зображень провідними групами штучного інтелекту, такими як OpenAI і Google, в останні місяці спричинив наплив квитанцій, згенерованих штучним інтелектом, що подаються всередині компаній. Постачальник програмного забезпечення AppZen заявив, що підроблені квитанції, згенеровані штучним інтелектом, становили близько 14% фальшивих документів, поданих у вересні, порівняно з нулем у минулому році. Фінтех-група Ramp заявила, що її нове програмне забезпечення виявило фальшивих рахунків-фактур на суму понад 1 млн доларів за 90 днів.
Близько 30% фінансових фахівців із США та Великої Британії, опитаних платформою управління витратами Medius, повідомили, що після запуску GPT-4o від OpenAI минулого року вони помітили зростання кількості підроблених квитанцій.
«Ці квитанції стали настільки якісними, що ми радимо нашим клієнтам «не довіряти своїм очам», — сказав Кріс Жуно, старший віцепрезидент і керівник відділу маркетингу продуктів SAP Concur, однієї з провідних світових платформ для управління витратами, яка щомісяця обробляє понад 80 млн перевірок на відповідність вимогам за допомогою штучного інтелекту.
Декілька платформ пов'язали значне зростання кількості квитанцій, створених за допомогою штучного інтелекту, із запуском OpenAI в березні вдосконаленої моделі генерації зображень GPT-4o.
OpenAI повідомила Financial Times, що вживає заходів у разі порушення своїх політик, а її зображення містять метадані, які вказують на те, що вони були створені ChatGPT.
Раніше для створення підроблених документів були потрібні навички редагування фотографій або оплата таких послуг через онлайн-провайдерів. Поява безкоштовного та доступного програмного забезпечення для генерації зображень дозволила співробітникам швидко підробляти квитанції за лічені секунди, пишучи прості текстові інструкції для чат-ботів.
Кілька квитанцій, показаних FT платформами управління витратами, продемонстрували реалістичність зображень, які містили зморшки на папері, детальний перелік, що відповідав реальним меню, та підписи.
«Це не майбутня загроза; це вже відбувається. Хоча наразі лише невеликий відсоток квитанцій, що не відповідають вимогам, генерується штучним інтелектом, ця частка буде тільки зростати», — сказав Себастьян Маршон, виконавчий директор Rydoo, платформи управління витратами.
Зростання кількості таких реалістичних копій змусило компанії звернутися до штучного інтелекту, щоб виявляти підроблені квитанції, оскільки більшість з них надто переконливі, щоб їх могли виявити люди.
Програмне забезпечення сканує квитанції, перевіряючи метадані зображення, щоб виявити, чи було воно створене платформою штучного інтелекту. Однак користувачі можуть легко обійти це, зробивши фотографію або знімок екрана зображення.
Щоб боротися з цим, воно також враховує іншу контекстну інформацію, перевіряючи такі деталі, як повторення в назвах серверів і часі, а також більш широку інформацію про поїздку співробітника.
«Технологія може розглядати все з високою деталізацією і увагою, тоді як люди, через певний час, пропускають деякі речі, адже вони є людьми», — додав Келвін Лі, старший директор з управління продуктами в Ramp.
Дослідження, проведене SAP у липні, показало, що майже 70% фінансових директорів вважають, що їхні співробітники використовують штучний інтелект для спроб фальсифікації витрат на відрядження або квитанцій, а близько 10% додають, що вони впевнені, що це траплялося в їхній компанії.
Мейсон Уайлдер, директор з досліджень Асоціації сертифікованих експертів з питань шахрайства, сказав, що сфальсифіковані квитанції, створені за допомогою штучного інтелекту, є «важливою проблемою для організацій».
Він додав: «Для людей немає жодних перешкод, щоб це робити. Не потрібно мати жодних технічних навичок або здібностей, як це було, можливо, п'ять років тому, коли використовували Photoshop».
