Які є ризики у використанні ChatGPT на робочому місці?

Aнатолій_Іванченко

Чат-бот ChatGPT, розроблений OpenAI, компанією зі штучного інтелекту із Сан-Франциско, ймовірно, є найпопулярнішим чат-ботом у світі за кількістю користувачів. Завдяки RLHF — «посиленому навчанню та зворотним зв'язком з людиною» як основі свого навчання, ChatGPT побудований на величезних обсягах даних людської мови для точного прогнозування та побудови речень, та надає дуже схожі на людські текстові відповіді за лічені секунди.

ChatGPT несподівано вийшов на сцену наприкінці 2022 року. Спочатку як безплатний додаток, ChatGPT привернув своїми функціями  увагу понад мільйона користувачів на початку грудня 2022 року. Лише за місяць кількість користувачів зросла до 100 мільйонів і у січні 2023 року, він став додатком з найбільш інтенсивним приростом аудиторії на сьогодні. Хоча ChatGPT переважно використовується англійською мовою, він може генерувати відповіді різними мовами, оскільки програмне забезпечення було належним чином навчене і містить достатню кількість лінгвістичних даних про певну мову. Зрозуміло, що така лінгвістична доступність також збільшила використання програмного забезпечення в неангломовних контекстах.

ChatGPT на робочому місці

Оскільки ChatGPT використовується для відповідей на загальні запити та допомоги в написанні електронних листів, статей та коду, на поверхневому рівні додаток можна розглядати як дуже зручний для застосування на робочому місці. Така технологія, з її обіцянками автоматизованого написання текстів і консультування, подібного до людського, здається, несе в собі потенціал революції для офісної роботи. Менше часу, витраченого на незручні електронні листи та монотонні завдання, означає менше коштів, витрачених на певні адміністративні ролі. Завдяки цій просунутій автоматизації ChatGPT є ще однією технологією, яка замінює собою людську роботу, а дехто стверджує, що саме за штучним інтелектом і є майбутнє, оскільки він замінить собою працівників.

Хоча дослідження TalentLMS показує, що 70% працівників використовують ChatGPT на робочому місці, воно також попереджає, що дуже мало людей навчені правильно користуватися штучним інтелектом. Небагато програмних додатків не становлять жодного ризику, і є багато причин для того, щоб проявляти більше обережності при використанні популярних додатків на роботі.

Перший ризик ChatGPT: Питання конфіденційності даних

Хоча OpenAI заявляє, що не продає дані користувачів з ChatGPT, важливо пам'ятати, що ChatGPT навчається за допомогою складної мовної моделі, яка містить величезні обсяги даних з Інтернету і, потенційно, даних, введених користувачами. Це призводить до обґрунтованих побоювань щодо витоку даних, оскільки ChatGPT може зберігати конфіденційну інформацію, вчитися на ній, а потім буде проблематично застосовувати її в майбутніх контекстах з іншими користувачами. Поширення інформації, що є власністю компанії, зовнішнім сторонам саме по собі є порушенням контракту, і ще більш очевидно, чому це відбувається при використанні ChatGPT. Таким чином, користувачі не повинні, за жодних обставин, ділитися будь-якими даними компанії, які можуть мати чутливий або конфіденційний характер.

Ця стурбованість призвела до того, що такі великі фірми, як JP Morgan і Chase, обмежили використання співробітниками ChatGPT. У березні 2023 року занепокоєння з приводу витоку даних змусило уряд Італії видати тимчасове надзвичайне рішення, в якому OpenAI попросили припинити використання персональних даних італійців для створення своєї навчальної бази. Розслідування все ще триває, а OpenAI зупинив доступ до ChatGPT для користувачів в Італії до того часу, поки не буде підготовлено належну відповідь офіційним особам. З огляду на великий обсяг даних, що зберігаються на серверах OpenAi, витік інформації в результаті кібератаки може мати дуже серйозні наслідки.

Другий ризик ChatGPT: в результатах може бути згенерована неточна або оманлива інформація

Ще одним важливим обмеженням є правдивість відповідей ChatGPT. Модель програми навчена передбачати послідовність слів у реченні або тексті, і вона не надто переймається правдивістю інформації, яку надає. Засновники OpenAI усвідомлюють це обмеження, додаючи, що «ChatGPT іноді пише правдоподібні, але неправильні або безглузді відповіді». Сама програма не навчена відокремлювати факти від вигадок, тому компаніям слід бути уважними при використанні ChatGPT. Крім того, оскільки ChatGPT був розроблений у попередні роки, він містить обмежене розуміння глобальних подій або нових знань щодо подій після квітня 2023 року. Тому він може надавати упереджений або неточний контент, що, своєю чергою, може зашкодити роботі вашої компанії.

Третій ризик ChatGPT: використання ChatGPT можуть вплинути на SEO показники вашої компанії у пошуку Google

Хоча дебати з цього приводу все ще тривають, з'явилися побоювання, що автоматизовані результати роботи ChatGPT можуть негативно вплинути на SEO показники компанії. Оскільки Google постійно прагне оптимізувати результати пошуку для користувачів, контент, схожий на спам (наприклад, контент ChatGPT без перевірки фактів), може бути відфільтрований і не отримати оптимальний показник SEO. Теоретично, Google може визначити контент ChatGPT, проаналізувавши його текстові шаблони, і виявити вебсайти, які використовують ChatGPT. Використовуючи Giant Language Model Test Room (GLTR), Google потенційно може визначити, чи автор вебсайту людина, і, відповідно, покарати сторінку за вміст, створений не людиною, понижуючи її у результатах видачі.

Чого слід уникати при використанні ChatGPT на роботі

Обмін чутливою або конфіденційною інформацією

Як згадувалося раніше, ви не повинні вводити в ChatGPT конфіденційну інформацію, оскільки це може поставити під загрозу роботу бізнесу і наразити вас або вашу компанію на потенційні судові позови та штрафи. Також важливо перевірити, чи не порушують результати роботи ChatGPT чиїсь інтелектуальні права. Це можна зробити за допомогою програмного забезпечення, призначеного для глибокого виявлення плагіату ШІ та походження будь-якого тексту (наприклад, ZeroGPT), хоча такі типи програмного забезпечення все ще перебувають на стадії доопрацювання.

Надмірне використання ChatGPT

Хоча ChatGPT має свої переваги, працівники можуть надмірно покладатися на нього в певний момент. Це може поставити під загрозу критичне мислення. Не слід вважати, що результати ChatGPT є точними, і він в жодному разі не повинен бути основою для прийняття ключових рішень. Занадто часте використання ChatGPT у повсякденній роботі також може призвести до того, що працівники стануть менш активними у використанні власного інтелекту; хоча штучний інтелект може допомогти з деякими адміністративними завданнями, важливо пам'ятати, що завдання вищого рівня, такі як уточнення політики або контроль якості, все одно потребують участі людини.

Нехтування етикою, пов'язане з ChatGPT

Ще один аспект ChatGPT, який часто не беруть до уваги, стосується етики. Оскільки ChatGPT був розроблений на основі величезної кількості даних людської мови, він модифікує інформацію для створення нового контенту.

Таким чином, не існує простого способу визначити, чи є контент, який ChatGPT створює для вас, достатньо оригінальним для комерційного використання, і чи не порушує він права інтелектуальної власності третіх осіб, про що ви не дізнаєтесь одразу. І навпаки, ChatGPT також може неправомірно використовувати вашу інтелектуальну власність.

Висновки

Як і більшість програм, ChatGPT не позбавлений проблем. Перш ніж впроваджувати цей інструмент на своєму робочому місці, ретельно оцініть потенційні загрози, які можуть виникнути. Глибоко усвідомивши ризики та провівши всебічне навчання для співробітників, ви зможете забезпечити відповідальне та ефективне використання ChatGPT на робочому місці.