Станіслав Троянов
«Касандра» та шанс злочину
Як повідомив Міністр юстиції України Денис Малюська в своєму Facebook, система покликана допомогти визначити шанс повторного злочину. Штучний інтелект аналізує особистість потенційного злочинця та вираховує здійснення ним нових злочинів.
«Касандра» буде лише давати оцінку можливому рецидиву колишнього ув’язненого, остаточне рішення прийматимуть відповідні органи з урахуванням попереднього аналізу системи.
Відповідно до пояснення міністра, програмне забезпечення може дати оцінку від 0 до 97.
Досить скоро «Кассандра» навчиться самостійно визначати, скільки балів потрібно дати за відповідь на те чи інше питання. А через кілька років у нас буде великий масив даних, за результатами машинного навчання згідно з яким «Кассандра» навчиться аналізувати відповіді не тільки на перелік простих питань, але й аналізувати всі інші дані, наявні про злочинця.
Денис Малюська, Міністр юстиції України
Однак, часом штучний інтелект може бути недосконалим — раніше ми писали
? У США учні виявили, що їх роботи перевіряє штучний інтелект та знайшли спосіб надурити його, як у США учні виявили, що їх роботи перевіряє алгоритм та знайшли спосіб надурити його.
Штучний інтелект та його недоліки
Учні сьомого класу однієї зі шкіл США зрозуміли, що їх роботи на онлайн-платформі для навчання Edgenuity перевіряє не людина, а алгоритм. Система дуже швидко перевіряла тести та ставила оцінки після складання іспитів — саме через це учні й зрозуміли, що штучний інтелект перевіряє їх роботи.
Дана Сіммонс, вчителька історії та мати одного з учнів, виявила зі своїм сином, що система працює некоректно, оскільки вони обидва отримали за іспит з історії лише 50 балів зі 100. Проаналізувавши роботи вони врешті зрозуміли, що штучний інтелект можна легко надурити — достатньо лише використовувати в кінці кожної відповіді на питання список з ключових слів, які система очікувала знайти.
Наприклад, аби отримати максимальну кількість балів на питання «У чому була перевага розташування Константинополя для Візантійської імперії?» достатньо лише написати «караван, корабель, Індія, Китай, Близький Схід».
Виявилось, що алгоритм запрограмований так, що відповіді без ключових слів отримували 0%, а з хоча б одним таким словом — 100%.
За словами Сіммонс, її радує той факт, що син зміг обдурити алгоритм і отримав при цьому нові навички. Однак, зазначає вона, не всі учні та їхні батьки мають відповідні навички. Тому мати школяра вважає, що онлайн-навчання породило проблему цифрової нерівності.
Також ми вже раніше писали
? NASA використовуватиме штучний інтелект для передбачення інтенсивності ураганів — це може врятувати життя багатьох людей, як NASA використовуватиме штучний інтелект для передбачення інтенсивності ураганів — це може врятувати життя багатьох людей.