Алгоритми і людські рішення — на що звернути увагу

Algorytmy i ljudśki rišennja — na ščo zvernuty uvagu

Для того, щоб розуміти ефект від технологій та автоматизації, варто спершу побачити, у які сфери життя вони вже проникли. Німецька неурядова організація взялася «моніторити» алгоритми, які впливають на прийняття рішень

Dlja togo, ščob rozumity efekt vid tehnologij ta avtomatyzaciї, varto speršu pobačyty, u jaki sfery žyttja vony vže pronykly. Nimećka neurjadova organizacija vzjalasja «monitoryty» algorytmy, jaki vplyvajuť na pryjnjattja rišeń

Чим більше розвиваються технології, тим складніше оцінювати їх потенційні ефекти. Зокрема, стає важчим зрозуміти, наскільки корисною може виявитися та чи інша новинка для суспільства, держави й людства. Чи справдяться ледь не апокаліптичні прогнози Ілона Маска — очільника SpaceX і Tesla,—  який пророкує, що у майбутньому людство зіткнеться з небезпекою через існування штучного інтелекту (мовляв, той стане розумнішим за людину). Що станеться, коли робот зможе швидше й якісніше думати, сприймати та обробляти інформацію, аніж це вміє людина?

Поточна ситуація із штучною обробкою рішень

Поки що такого роду картину важко зіставити з реальністю, але основа для цього вже закладена. Чимало процесів зараз відбуваються онлайн або за підтримки технологій і програмного забезпечення. Ледь не у всі сфери життя проникли електронні “помічники”, які мають на меті полегшити нам життя. За допомогою автоматизованих систем невдовзі стане можливим переміщуватися на машині без водія, а сотні сторінок монотонного юридичного контракту читатиме програма, яка знайде і «зрозуміє» важливі чи суперечливі моменти угоди.

Коли справа доходить до опрацьовування комп’ютером великих масивів інформації, виникає низка ризиків. По-перше, щодо якості. У цьому контексті варто згадати принаймні перекладач Google. Другий ризик полягає у міркуваннях безпеки. Коли алгоритм «читає» ваше електронне листування або повідомлення в чаті, він, можливо, дізнається про вас більше, ніж вам цього б хотілося.

Неурядова організація AlgorithmWatch зібрала своїх рядах низку науковців, які зацікавлені у тому, щоб викрити алгоритми, які можуть вплинути на людські рішення.

Ми шукаємо дескриптивні, предикативні, нормативні алгоритми, які мають безпосередній вплив на суспільство та його інтереси

маніфест AlgorithmWatch

Діяльність науковців розпочалася нещодавно й наразі триває збір ідей. Ознайомитися з наявною базою алгоритмів, які впливають на прийняття рішення можна на сторінці організації разом з позитивними й негативними аспектами їх існування.

5 сфер, у яких алгоритми вже допомагають із рішеннями

Торгівля і фінанси: Наприклад, у високочастотному трейдингу – формі торгівлі на фінансових ринках, в рамках якої сучасне обладнання й алгоритми використовуються для швидкої торгівлі цінними паперами. Крім того, програми можуть «порадити», кому видавати кредит, а кому ні.

Кримінальні розслідування: У цій сфері використовують програми, які вивчають біографію злочинця і вираховують на базі цієї інформації ймовірність повторення злочину. З використанням автоматизованих схем зростає об’єктивність майбутнього рішення, легше стає відслідковувати й порівнювати причинно-наслідковий зв’язок між різними справами. Водночас існує ризик, що «машинальним» способом не вдасться проаналізувати й належним чином врахувати всі фактори для неупередженого та повного розслідування скоєних правопорушень. Також є ризик маніпуляцій програмним забезпеченням з боку компанії-постачальника.

Медицина: E-Health та електронні методи постановки діагнозу, аналізу перебігу хвороби та призначення лікування.

Соціальні медіа: Тут діють алгоритми, що вирішують, який саме контент користувач прочитає (або не зможе прочитати ні за яких умов). Компанії підлаштовують вибірку відповідно до інтересів користувача, попередньо зібравши про нього інформацію із листування, пошукових запитів тощо. Небезпека полягає у тому, що радикальні погляди стають ще більш радикальними, якщо «підживлювати» переконання користувачів одноманітною інформацією і не пропонувати альтернативної точки зору.

Освіта: Автоматизовані системи вступу до вишів вже працюють. В цілому комп’ютерний тест ставить в рівні умови всіх учасників процесу і може бути цікавим інструментом в контексті боротьби з корупцією. Однак слід мати на увазі, що не всі критерії оцінювання знань можна повністю автоматизувати й вивести універсальну формулу успішного студента чи школяра.

Паспортний контроль: Автоматизовані системи контролю на кордонах можуть ідентифікувати особу та автоматично «перевірити» і відповідно пропустити в країну. З одного боку, таким чином вдасться уникнути дискримінації, а контроль стане об’єктивнішим. З іншого боку ті, хто перетинають кордон, «дарують» спецслужбам чи державним установам декількох країн значну кількість персональних даних.

Додати коментар

Такий e-mail вже зареєстровано. Скористуйтеся формою входу або введіть інший.

Ви вказали некоректні логін або пароль

Вибачте, для коментування необхідно увійти.

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: