😈 У США учні виявили, що їх роботи перевіряє штучний інтелект та знайшли спосіб надурити його

Штучний інтелект та його недоліки

Учні сьомого класу однієї зі шкіл США зрозуміли, що їх роботи на онлайн-платформі для навчання Edgenuity перевіряє не людина, а алгоритм. Система дуже швидко перевіряла тести та ставила оцінки після складання іспитів — саме через це учні й зрозуміли, що штучний інтелект перевіряє їх роботи.

Дана Сіммонс, вчителька історії та мати одного з учнів, виявила зі своїм сином, що система працює некоректно, оскільки вони обидва отримали за іспит з історії лише 50 балів зі 100. Проаналізувавши роботи вони врешті зрозуміли, що штучний інтелект можна легко надурити — достатньо лише використовувати в кінці кожної відповіді на питання список з ключових слів, які система очікувала знайти.

Наприклад, аби отримати максимальну кількість балів на питання «У чому була перевага розташування Константинополя для Візантійської імперії?» достатньо лише написати «караван, корабель, Індія, Китай, Близький Схід».

До того ж неважливо, в якому саме переліку і наскільки логічно будуть розташовані ці слова. Спочатку достатньо написати декілька речень будь-якого змісту, а потім просто додати ключові слова.

Виявилось, що алгоритм запрограмований так, що відповіді без ключових слів отримували 0%, а з хоча б одним таким словом — 100%.

Учні інших закладів поділилися своїм досвідом обману алгоритму Edgenuity. Так, іноді вони просто копіюють текст своїх питань і вставляють його в поле відповіді, оскільки він найчастіше містить необхідні ключові слова.

Інший учень повідомив, що списки ключів доступні в інтернеті. Деякі навіть спеціально робили помилки, щоб не викликати підозри у вчителів за стабільно високі бали.

За словами Сіммонс, її радує той факт, що син зміг обдурити алгоритм і отримав при цьому нові навички. Однак, зазначає вона, не всі учні та їхні батьки мають відповідні навички. Тому мати школяра вважає, що онлайн-навчання породило проблему цифрової нерівності.

Також ми вже раніше писали? Штучний інтелект навчили перетворювати розмиті фото на чіткі портрети, як штучний інтелект навчили перетворювати розмиті фото на чіткі портрети.