Aa Aa Aa
Aa Aa Aa
Прочитати вголос
Зупинити читання

5 питань етики технологій, на які нас наштовхує Altered Carbon

5 pytań etyky tehnologij, na jaki nas naštovhuje Altered Carbon

Найобговорюваніший серіал лютого переглянули вже майже усі охочі. Хтось називає його пародією на кіберпанк та блідою копією «Того, що біжить по лезу», хтось — серйозним запрошенням до дискусії про трансгуманізм та штучний інтелект. Намагаючись уникати спойлерів, поговоримо про те, які питання етичного характеру зачіпає цей серіал — і чому його варто подивитися, навіть якщо ви не дуже любите sci-fi
Najobgovorjuvanišyj serial ljutogo peregljanuly vže majže usi ohoči. Htoś nazyvaje jogo parodijeju na kiberpank ta blidoju kopijeju «Togo, ščo bižyť po lezu», htoś — serjoznym zaprošennjam do dyskusiї pro transgumanizm ta štučnyj intelekt. Namagajučyś unykaty spojleriv, pogovorymo pro te, jaki pytannja etyčnogo harakteru začipaje cej serial — i čomu jogo varto podyvytysja, naviť jakščo vy ne duže ljubyte sci-fi
Čytaty latynkoju

Спеціальні можливості

Прочитати вголос
Зупинити читання
Контрастна версія
  Від редакції: Далі можливі спойлери — і якщо ви досі не дивилися жодної серії на Netflix, ми вас попередили. В основі сюжету — історія далекого майбутнього, сотні років від сьогодні, де людство навчилося записувати свідомість на змінний носій і переносити до інших тіл. Звісно, що кількість злочинів, обсяги розпусти та рівень морального занепаду на тлі можливості змінити тіло різко зросли — а розслідування резонансних злочинів потребує пробудження старих агентів на допомогу новим. От тільки у людей, чия свідомість по 250 років кочувала між тілами та інкубаторами, можуть бути такі задавнені скелети в шафі, що жодна система не передбачає їхньої появи. На IMDb перший сезон Altered Carbon має 8,5 балів із 10 можливих. На сайті агрегатора Rotten Tomatoes серіал має схвальні відгуки на рівні 63%  та середню оцінку 6,64 із 10. Критики сходяться в одному: кіберпанкові витоки серіалу потужні, але крім загальних вражень і загальної динамічної картинки, до глибини він не чіпляє. На сайті Metacritic сезон має середній бал 65 зі 100, виходячи з 24 критиків, які загалом оцінюють серіал скоріше позитивно. Дилема перша: Перенесення свідомості та конструкт безсмертної душі. Безліч відгалужень сюжетної лінії в серіалі крутяться довкола того, що і повстанці, і так звані Neo-C (новітні католики) наполягають на тому, що для відновлення етичного балансу в суспільстві, подолання злочинності, розпусти та екзистенційної кризи людства життя має бути скінченним — і вони навіть згодні на тероризм та вбивства, аби поновити порядок речей. Конструкт безсмертя та спасіння душі успішно експлуатується зараз переважною більшістю монотеїстичних релігій на планеті. Більше того — навіть той дивак, який започаткував Церкву Штучного Інтелекту, як і ті веселі хлопці, що вшановують Макаронного Монстра та фотографуються на водійське посвідчення із друшляком на голові — вони теж апелюють до конструкту певного Універсального Початку. Науковці ще раніше виміряли ті нез’ясовні 21 грам, які людина втрачає, коли помирає — і це не повітря всередині тіла чи легень. Перенесення свідомості — звісно, не питання 5 чи 10 років. Проте вже зараз можна сказати, що віртуалізація та штучний інтелект частково підібралися до створення паралельної свідомості — або чогось, схожого на неї.  Можливо, мине ще років 20 — і будуть перші спроби перенести свідомість від живої людини на штучний носій. Хтозна, чи не буде тоді своїх нових католиків, які візьмуть до рук зброю, аби запобігти цьому? До того ж, давайте дамо собі чесну відповідь: а чи хотіли би ви жити вічно? Змінювати тіло на нове кожні 80-100 років. Накопичувати досвід та знання усіх попередніх життів. Тягнути за собою нескінченну кількість образ, прагнень помсти, невтолених сексуальних фантазій чи несправджених романтичних бажань. Якщо не впевнені у своїй відповіді — час зазирнути до готелю Голови у Хмарах у Altered Carbon. Дилема друга: Трансгуманізм. Внаслідок нещасного випадку одна з героїнь серіалу втрачає руку — і їй ставлять найдорожчий кібернетичний протез із розумною електронікою, нервовими закінченнями, штучною шкірою та з рівнем міцності, здатним протистояти удару самурайським мечем. Інша героїня, яка після смерті застрягла у віртуальному світі Асистентів, повертається, аби свідчити проти своєї кривдниці, у іншому тілі, яке вона здатна змінювати. Кольорові лінзи, імплантати зубів, штучні груди, щоки і навіть сідниці — перші провісники того, що ми вже рухаємося у напрямку трансгуманізму. Днями з’явилося повідомлення про створення штучної шкіри, яка здатна проводити тепло та нейроімпульси і комплектується системою чутливих електродів та контактів. Періодичні експериментальні спроби шляхом клонування створювати штучні нирки, серця та інші органи. Використання стовбурових клітин у косметиці та відновлюваній медицині. Протези ніг та рук із сервомоторними модулями. Штучне око, здатне розрізняти кольори. Вирощування людських вух на спині у лабораторної мишви. Ми ще не можемо дозволити собі повне ТО свого організму, але вже наближаємося до того. Можливо, епізод із пересадкою руки та роботами-медиками не такий вже й фантастичний? Дилема третя: Чи етично вбивати роботів. Один із найбільш колоритних персонажів серіалу — це Асистент, по суті — штучній інтелект, голосовий та VR-помічник, котрий має форму та вигляд звичайної людини, хай і вбраної в традиціях Гранд-отелю Будапешт. Проте внаслідок драматичного перебігу подій він гине — як і одна із дівчат-для-втіхи, замкнених у безкінечних спальнях Голови у Хмарах. Перш ніж говорити про те, чи етично вбивати роботів, нам вже сьогодні слід замислитися — а чи етично створювати роботів, так подібних на людей? Бо здається, три закони робототехніки слід застосовувати вже не лише до машин, але й до людей. Дилема четверта: Штучний інтелект та його здатність утворювати суспільні звязки. Віртуальні помічники у Altered Carbon говорять, жартують, одягаються зі смаком, грають у карти і навіть створюють паралельний світ та свою економіку, пліткують про господарів та б’ються об заклад — пересипаючи все це складними діалогами про сенс буття та глибину почуттів як одне до одного, так і до людей. Звісно, ми живемо в час, коли коректна відповідь Siri на ваше запитання — це вже досягнення; а здатність Google Home розповідати новини чи Alexa робити для вас замовлення у магазинах — це взагалі щось з області магії. Тому нам поки складно уявити помічника, котрий за рівнем знань, можливостей та реакцій буде дорівнювати нам. Але з огляду на те, як стрімко штучний інтелект та голосові технології просунулися усього за 2 роки — нам слід подумати про те, що фільми на кшталт Her чи серіали типу Black Mirror були лише невеликим художнім прологом до того, що нас чекає насправді. Дилема п’ята: Подолання злочинів через свідчення мертвих. Найбільш спокуслива можливість, яка представлена у Altered Carbon — це так зване право свідчити після смерті: віртуальна свідомість жертви може постати перед судом у просторі для допитів і дати свідчення в тілі чи без нього про те, хто і за яких обставин вбив його чи її або скоїв спробу замаху на життя. Схоже, така технологія сподобалася би й нинішнім органам правосуддя. Проте чи означало би це також, що спроби фальсифікувати чи вибивати подібні свідчення (а сцена безкінечних тортур у серіалі постає двічі із різними персонажами) стали би звичною практикою? Відповіді на це немає — тому поки правоохоронним органам доведеться обходитися без допомоги віртуального світу. Серіал Altered Carbon із початку лютого 2018 року можна переглянути на платформі Netflix. До речі, нещодавно ми публікували статистику щодо кількості глядачів цього відеосервісу в Україні за 2017 рік.
Реклама 👇 Замовити

Що варто знати про Altered Carbon

Від редакції: Далі можливі спойлери — і якщо ви досі не дивилися жодної серії на Netflix, ми вас попередили. В основі сюжету — історія далекого майбутнього, сотні років від сьогодні, де людство навчилося записувати свідомість на змінний носій і переносити до інших тіл.

Звісно, що кількість злочинів, обсяги розпусти та рівень морального занепаду на тлі можливості змінити тіло різко зросли — а розслідування резонансних злочинів потребує «пробудження» старих агентів на допомогу новим. От тільки у людей, чия свідомість по 250 років кочувала між тілами та інкубаторами, можуть бути такі задавнені «скелети в шафі», що жодна система не передбачає їхньої появи.

На IMDb перший сезон Altered Carbon має 8,5 балів із 10 можливих. На сайті агрегатора Rotten Tomatoes серіал має схвальні відгуки на рівні 63%  та середню оцінку 6,64 із 10. Критики сходяться в одному: кіберпанкові витоки серіалу потужні, але крім загальних вражень і загальної динамічної картинки, до глибини він «не чіпляє». На сайті Metacritic сезон має середній бал 65 зі 100, виходячи з 24 критиків, які загалом оцінюють серіал «скоріше позитивно».

Питання із багатьма відповідями

Дилема перша: Перенесення свідомості та конструкт «безсмертної душі»

Безліч відгалужень сюжетної лінії в серіалі крутяться довкола того, що і повстанці, і так звані Neo-C (новітні католики) наполягають на тому, що для відновлення етичного балансу в суспільстві, подолання злочинності, розпусти та екзистенційної кризи людства життя має бути скінченним — і вони навіть згодні на тероризм та вбивства, аби «поновити порядок речей».

Конструкт безсмертя та «спасіння душі» успішно експлуатується зараз переважною більшістю монотеїстичних релігій на планеті. Більше того — навіть той дивак, який започаткував Церкву Штучного Інтелекту, як і ті веселі хлопці, що вшановують Макаронного Монстра та фотографуються на водійське посвідчення із друшляком на голові — вони теж апелюють до конструкту певного Універсального Початку. Науковці ще раніше виміряли ті нез’ясовні 21 грам, які людина втрачає, коли помирає — і це не повітря всередині тіла чи легень. Перенесення свідомості — звісно, не питання 5 чи 10 років. Проте вже зараз можна сказати, що віртуалізація та штучний інтелект частково підібралися до створення паралельної свідомості — або чогось, схожого на неї.  Можливо, мине ще років 20 — і будуть перші спроби перенести свідомість від живої людини на штучний носій. Хтозна, чи не буде тоді своїх «нових католиків», які візьмуть до рук зброю, аби запобігти цьому?

До того ж, давайте дамо собі чесну відповідь: а чи хотіли би ви жити вічно? Змінювати тіло на нове кожні 80-100 років. Накопичувати досвід та знання усіх попередніх життів. Тягнути за собою нескінченну кількість образ, прагнень помсти, невтолених сексуальних фантазій чи несправджених романтичних бажань. Якщо не впевнені у своїй відповіді — час зазирнути до готелю «Голови у Хмарах» у Altered Carbon.

Дилема друга: Трансгуманізм

Внаслідок нещасного випадку одна з героїнь серіалу втрачає руку — і їй ставлять найдорожчий кібернетичний протез із розумною електронікою, нервовими закінченнями, штучною шкірою та з рівнем міцності, здатним протистояти удару самурайським мечем. Інша героїня, яка після смерті «застрягла» у віртуальному світі Асистентів, повертається, аби свідчити проти своєї кривдниці, у іншому тілі, яке вона здатна змінювати.

Читайте також: Майбутнє мотивує — 10 медичних інновацій сучасної України

Кольорові лінзи, імплантати зубів, штучні груди, щоки і навіть сідниці — перші провісники того, що ми вже рухаємося у напрямку трансгуманізму. Днями з’явилося повідомлення про створення штучної шкіри, яка здатна проводити тепло та нейроімпульси і комплектується системою чутливих електродів та контактів. Періодичні експериментальні спроби шляхом клонування створювати штучні нирки, серця та інші органи. Використання стовбурових клітин у косметиці та відновлюваній медицині. Протези ніг та рук із сервомоторними модулями. Штучне око, здатне розрізняти кольори. Вирощування людських вух на спині у лабораторної мишви. Ми ще не можемо дозволити собі повне ТО свого організму, але вже наближаємося до того. Можливо, епізод із пересадкою руки та роботами-медиками не такий вже й фантастичний?

Дилема третя: Чи етично вбивати роботів

Один із найбільш колоритних персонажів серіалу — це Асистент, по суті — штучній інтелект, голосовий та VR-помічник, котрий має форму та вигляд звичайної людини, хай і вбраної в традиціях «Гранд-отелю Будапешт». Проте внаслідок драматичного перебігу подій він гине — як і одна із дівчат-для-втіхи, замкнених у безкінечних спальнях «Голови у Хмарах». Перш ніж говорити про те, чи етично вбивати роботів, нам вже сьогодні слід замислитися — а чи етично створювати роботів, так подібних на людей? Бо здається, три закони робототехніки слід застосовувати вже не лише до «машин», але й до людей.

Дилема четверта: Штучний інтелект та його здатність утворювати суспільні зв’язки

Віртуальні помічники у Altered Carbon говорять, жартують, одягаються зі смаком, грають у карти і навіть створюють паралельний світ та свою економіку, пліткують про господарів та б’ються об заклад — пересипаючи все це складними діалогами про сенс буття та глибину почуттів як одне до одного, так і до людей. Звісно, ми живемо в час, коли коректна відповідь Siri на ваше запитання — це вже досягнення; а здатність Google Home розповідати новини чи Alexa робити для вас замовлення у магазинах — це взагалі щось з області магії. Тому нам поки складно уявити помічника, котрий за рівнем знань, можливостей та реакцій буде дорівнювати нам. Але з огляду на те, як стрімко штучний інтелект та голосові технології просунулися усього за 2 роки — нам слід подумати про те, що фільми на кшталт Her чи серіали типу Black Mirror були лише невеликим художнім прологом до того, що нас чекає насправді.

Дилема п’ята: Подолання злочинів через «свідчення мертвих»

Найбільш спокуслива можливість, яка представлена у Altered Carbon — це так зване «право свідчити після смерті»: віртуальна свідомість жертви може постати перед судом у просторі для допитів і дати свідчення в тілі чи без нього про те, хто і за яких обставин вбив його чи її або скоїв спробу замаху на життя. Схоже, така технологія сподобалася би й нинішнім органам правосуддя. Проте чи означало би це також, що спроби фальсифікувати чи «вибивати» подібні свідчення (а сцена безкінечних тортур у серіалі постає двічі із різними персонажами) стали би звичною практикою? Відповіді на це немає — тому поки правоохоронним органам доведеться обходитися без допомоги віртуального світу.

Серіал Altered Carbon із початку лютого 2018 року можна переглянути на платформі Netflix. До речі, нещодавно ми публікували статистику щодо кількості глядачів цього відеосервісу в Україні за 2017 рік.

Якщо ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.

Додати коментар

Такий e-mail вже зареєстровано. Скористуйтеся формою входу або введіть інший.

Ви вказали некоректні логін або пароль

Вибачте, для коментування необхідно увійти.
Ще

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: