Алгоритми і людські рішення — на що звернути увагу

Чим більше розвиваються технології, тим складніше оцінювати їх потенційні ефекти. Зокрема, стає важчим зрозуміти, наскільки корисною може виявитися та чи інша новинка для суспільства, держави й людства. Чи справдяться ледь не апокаліптичні прогнози Ілона МаскаІлон Маск за 4 роки хоче створити нейроінтерфейс для мозку — очільника SpaceX і Tesla? Він пророкує, що у майбутньому людство зіткнеться з небезпекою через існування штучного інтелекту. Мовляв, той стане розумнішим за людину. Що станеться, коли робот зможе швидше й якісніше думати, сприймати та обробляти інформацію, аніж це вміє людина?

Поточна ситуація із штучною обробкою рішень

Поки що такого роду картину важко зіставити з реальністю, але основаMailchimp безкоштовно вестиме всі маркетингові кампанії для цього вже закладена. Чимало процесів зараз відбуваються онлайн або за підтримки технологій і програмного забезпечення. Ледь не у всі сфери життя проникли електронні “помічники”, які мають на меті полегшити нам життя. За допомогою автоматизованих систем невдовзі стане можливим переміщуватися на машині без водіяЯк зміниться володіння автомобілями?, а сотні сторінок монотонного юридичного контракту читатиме програма, яка знайде і «зрозуміє» важливі чи суперечливі моменти угоди.

Коли справа доходить до опрацьовування комп’ютером великих масивів інформації, виникає низка ризиків. По-перше, щодо якості. У цьому контексті варто згадати принаймні перекладач Google. Другий ризик полягає у міркуваннях безпеки. Коли алгоритм «читає» ваше електронне листування або повідомлення в чаті, він, можливо, дізнається про вас більше, ніж вам цього б хотілося.

Неурядова організація AlgorithmWatch зібрала своїх рядах низку науковців, які зацікавлені у тому, щоб викрити алгоритми, які можуть вплинути на людські рішення.

Ми шукаємо дескриптивні, предикативні, нормативні алгоритми, які мають безпосередній вплив на суспільство та його інтереси

маніфест AlgorithmWatch

Діяльність науковців розпочалася нещодавно й наразі триває збір ідей. Ознайомитися з наявною базою алгоритмів, які впливають на прийняття рішення можна на сторінці організації разом з позитивними й негативними аспектами їх існування.

5 сфер, у яких алгоритми вже допомагають із рішеннями

Торгівля і фінанси: Наприклад, у високочастотному трейдингу – формі торгівлі на фінансових ринках, в рамках якої сучасне обладнання й алгоритми використовуються для швидкої торгівлі цінними паперами. Крім того, програми можуть «порадити», кому видавати кредит, а кому ні.

Кримінальні розслідування: У цій сфері використовують програми, які вивчають біографію злочинця і вираховують на базі цієї інформації ймовірність повторення злочину. З використанням автоматизованих схем зростає об’єктивність майбутнього рішення, легше стає відслідковувати й порівнювати причинно-наслідковий зв’язок між різними справами. Водночас існує ризик, що «машинальним» способом не вдасться проаналізувати й належним чином врахувати всі фактори для неупередженого та повного розслідування скоєних правопорушень. Також є ризик маніпуляцій програмним забезпеченням з боку компанії-постачальника.

Медицина: E-Health та електронні методи постановки діагнозу, аналізу перебігу хвороби та призначення лікування.

Соціальні медіа: Тут діють алгоритмиРозсекречено алгоритми ідентифікації та модерації контенту в Facebook, що вирішують, який саме контент користувач прочитає (або не зможе прочитати ні за яких умов). Компанії підлаштовують вибірку відповідно до інтересів користувача, попередньо зібравши про нього інформацію із листування, пошукових запитів тощо. Небезпека полягає у тому, що радикальні погляди стають ще більш радикальними, якщо «підживлювати» переконання користувачівМарк Цукерберґ — про фейкові новини, бізнес та суспільство одноманітною інформацією і не пропонувати альтернативної точки зору.

Освіта: Автоматизовані системи вступу до вишів вже працюють. В цілому комп’ютерний тест ставить в рівні умови всіх учасників процесу і може бути цікавим інструментом в контексті боротьби з корупцією. Однак слід мати на увазі, що не всі критерії оцінювання знань можна повністю автоматизувати й вивести універсальну формулу успішного студента чи школяраІзраїльська освіта та практики STEAM — чого варто повчитися Україні.

Паспортний контроль: Автоматизовані системи контролю на кордонах можуть ідентифікувати особу та автоматично «перевірити» і відповідно пропустити в країну«Безвіз» підписано — із 11 червня український паспорт додасть 40 позицій у GPP Rank. З одного боку, таким чином вдасться уникнути дискримінації, а контроль стане об’єктивнішим. З іншого боку ті, хто перетинають кордон, «дарують» спецслужбам чи державним установам декількох країн значну кількість персональних даних.