Аппалач Ярославни
Однією з доволі великих проблем, яка з’явилася з запуском ChatGPT стало те, що багато студентів та учнів почали використовувати ШІ-чат-бот для написання своїх різноманітних робіт. Звісно, що проконтролювати їх на академічну доброчесність наразі немає жодної можливості, однак, кидається у OpenAI все ж є інструмент для ідентифікації ШІ-текстів.
У виданні The Wall Street Journal повідомили, що у компанії уже є інструмент за допомогою якого можна виявляти тексти створенні за допомогою ChatGPT і наразі OpenAI активно займається його розробкою, однак має сумніви щодо його випуску.
Вже у своїй заяві для TechCrunch, представник OpenAI підтвердив, що дійсно ведеться робота над текстовими водяними знаками, але додав, що компанія застосовує «обдуманий підхід» у цьому питанні через «пов’язані з ним складнощі та його ймовірний вплив на ширшу екосистему за межами OpenAI».
Метод нанесення водяних знаків на текст, який ми розробляємо, є технічно багатообіцяючим, але має важливі ризики, які ми зважуємо, поки досліджуємо альтернативи, включаючи вразливість до обходу зловмисників і потенційний непропорційний вплив на такі групи, як неангломовні користувачі.
Відзначається, що у випадку з текстовими водяними знаками OpenAI зосередиться на виявленні текстів написаних саме за допомогою ChatGPT, а не інших ШІ-моделей. Тобто для цього компанії потрібно внести зміни в те, як ChatGPT вибирає слова. Таким чином створюватиметься невидимий водяний знак у тексті, який згодом можна буде виявити окремим інструментом.