Appalač Jaroslavny
Odnijeju z dovoli velykyh problem, jaka z’javylasja z zapuskom ChatGPT stalo te, ščo bagato studentiv ta učniv počaly vykorystovuvaty ŠI-čat-bot dlja napysannja svoїh riznomanitnyh robit. Zvisno, ščo prokontroljuvaty їh na akademičnu dobročesnisť narazi nemaje žodnoї možlyvosti, odnak, kydajeťsja u OpenAI vse ž je instrument dlja identyfikaciї ŠI-tekstiv.
U vydanni The Wall Street Journal povidomyly, ščo u kompaniї uže je instrument za dopomogoju jakogo možna vyjavljaty teksty stvorenni za dopomogoju ChatGPT i narazi OpenAI aktyvno zajmajeťsja jogo rozrobkoju, odnak maje sumnivy ščodo jogo vypusku.
Vže u svoїj zajavi dlja TechCrunch, predstavnyk OpenAI pidtverdyv, ščo dijsno vedeťsja robota nad tekstovymy vodjanymy znakamy, ale dodav, ščo kompanija zastosovuje «obdumanyj pidhid» u ćomu pytanni čerez «pov’jazani z nym skladnošči ta jogo jmovirnyj vplyv na šyršu ekosystemu za mežamy OpenAI».
Metod nanesennja vodjanyh znakiv na tekst, jakyj my rozrobljajemo, je tehnično bagatoobicjajučym, ale maje važlyvi ryzyky, jaki my zvažujemo, poky doslidžujemo aľternatyvy, vključajučy vrazlyvisť do obhodu zlovmysnykiv i potencijnyj neproporcijnyj vplyv na taki grupy, jak neanglomovni korystuvači.
Vidznačajeťsja, ščo u vypadku z tekstovymy vodjanymy znakamy OpenAI zoseredyťsja na vyjavlenni tekstiv napysanyh same za dopomogoju ChatGPT, a ne inšyh ŠI-modelej. Tobto dlja ćogo kompaniї potribno vnesty zminy v te, jak ChatGPT vybyraje slova. Takym čynom stvorjuvatymeťsja nevydymyj vodjanyj znak u teksti, jakyj zgodom možna bude vyjavyty okremym instrumentom.