Je používanie AI na randenie podvádzanie? Úprimný pohľad

Niekto sa ma na to opýtal minulý mesiac na večeri. Videl našu firmu na mojom LinkedIn a chcel vedieť, či sa mi nepríde zvláštne, čo budujeme. Otázka bola úprimná a úprimná odpoveď mi trvala dlhšie, než som čakal.

Stručná verzia: myslím si, že otázka má nesprávny tvar. "Je používanie AI pri randení podvádzanie?" sa pýta, akoby AI bola jedna vec a randenie bola jedna vec, a buď prekročíš morálnu hranicu, alebo nie. Skutočná odpoveď závisí od toho, na čo to používaš, čo by druhá osoba pocítila, keby to vedela, a kým chceš byť vo vzťahu, ktorý z toho môže vzniknúť.

Tu je dlhšia verzia, napísaná niekým so zjavným predsudkom (vyrábame jeden z týchto nástrojov) a s pokusom byť aj tak férový.

Prečo otázka štípe

Inštinkt "toto možno je podvádzanie" vychádza z niečoho reálneho. Väčšina ľudí, keď sa ich spýtaš priamo, povie, že chce byť obľúbená pre to, kým skutočne je. Hrôza zo zoznamovania spočíva v tom, že možno nestačíš. Strach z AI je v tom, že ti dovolí predstierať, že áno.

Je tu aj spoločenská zmluva. Keď ti niekto napíše správu, predpokladáš, že slová sú jeho. Odhaduješ, kto by mohol byť, na základe tých slov. Ak sa ukáže, že slová nie sú jeho, robil si si obraz o človeku, ktorý neexistuje. A práve tomu má randenie predchádzať.

Obe tieto obavy sú opodstatnené. Nie sú hlúpe. Ktokoľvek, kto pôsobí v tejto oblasti a predstiera, že nie sú, niečo predáva.

Dva spôsoby, akými sa AI používa pri randení

Tu sa otázka rozdeľuje, pretože pod rovnakým názvom sa dejú dve veľmi odlišné veci.

Verzia jedna: AI ako tezaurus

Máš niečo, čo chceš povedať. Nevieš, ako to povedať. Formulácia ti nejde. Požiadaš AI o niekoľko možností, prečítaš si ich, vybereš jednu, upravíš ju, kým to neznie ako ty. Myšlienka je tvoja. Zámer je tvoj. Reakcia, ktorú si chcel vyvolať, je tvoja. AI robí prácu hľadania slov.

Toto je zhruba to, čo každý pisateľ v histórii robil s editormi, priateľmi a slovníkmi. To je to, čo robí kontrola pravopisu. To je to, čo prediktívny text v tvojom telefóne robí pätnásť rokov. Žiadne z toho nenazývame podvádzaním. Sú to len nástroje, ktoré pomáhajú myšlienke dostať sa na stránku.

Verzia dva: AI ako pisár za teba

Nemáš nič konkrétne, čo chceš povedať. Vložíš konverzáciu, AI ti povie, čo by zabralo, a ty to pošleš. Reakcia druhej osoby nie je na teba, ale na štatisticky priemernú najlepšiu odpoveď. Ak sa jej správa páči, páči sa jej inštinkt AI, nie tvoj. Ak správa zaujme, zaujala vzorec, nie človeka.

Toto je bližšie k písaniu za iného. Výsledok môže byť hladký, ale spojenie je požičané odtiaľ, kde ho nemáš. A keď sa nakoniec stretnete osobne, medzera medzi hladkosťou AI a tvojím skutočným registrom sa ukáže, niekedy dosť nepríjemne.

Väčšina intuícií "je to podvádzanie?" sleduje druhú verziu, nie prvú. Problém je, že rovnaký nástroj sa dá používať oboma spôsobmi, a len používateľ vie, ktorý z nich sa práve deje.

Test, ktorý skutočne funguje

Najčistejší spôsob, ako o tom uvažovať, pre seba aj pre ľudí, ktorí používajú náš nástroj: predstav si, že konverzácia ide dobre, stretnete sa, a po niekoľkých rande sa téma objaví. Spýtajú sa, či niekedy používaš AI na správy. Akú odpoveď môžeš dať bez zaváhania?

Ak je odpoveď "áno, niekedy keď neviem, ako niečo sformulovať, vygenerujem pár možností a vyberiem to, čo sedí," väčšina ľudí s tým nemá problém. Zodpovedá to tomu, ako sami uvažujú o formulovaní.

Ak by odpoveď musela byť dlhší príbeh o tom, ako celá skorá konverzácia bola AI, to je verzia používania, ktorá vytvára dlh. Nie nevyhnutne lož, ale rozdiel medzi tým, koho si mysleli, že spoznali, a tým, koho skutočne spoznali.

Test nie je "používal si AI". Je to "povedal by si im to".

Čo právo druhej osoby vedieť?

Toto je zložitejší kúsok. Aj keď tvoje používanie patrí do kategórie "tezaurus", majú právo vedieť, že AI pomáhala?

Úprimná odpoveď je, že takmer nikto neodhaľuje každý nástroj, ktorý používa. Ľudia chodia za priateľmi pre radu, čo napísať. Znovu čítajú koncepty. Zdieľajú veci so skupinovým chatom. Koučovia na randenie existujú a ľudia im platia presne za pomoc s týmto druhom písania. Kategória "pomoc s tým, čo napísať" je staršia ako smartfóny.

Čo je nové, je rýchlosť a rozsah. Priateľ môže pomôcť s troma správami za týždeň. AI môže pomôcť s tridsiati. Tento rozdiel je dôležitý, pretože v takom meradle sa "niekedy dostanem pomoc" mení na "pomoc robí väčšinu práce". To je hranica, na ktorú poukazuje test v predchádzajúcej časti.

Právo vedieť sa stáva zmysluplným, keď mení obraz. Ak by sa druhá osoba oprávnene cítila zavádzaná tým, koľko z konverzácie pochádza z nástroja, prešiel si do miesta, ktoré stojí za nepohodu.

Skutočná obava: kalibrácia

Tu je časť, ktorú väčšina článkov o tom vynecháva. Hlbšie riziko nie je morálne, ale praktické. Vec, ktorú môže AI pokaziť, nie je etika, ale kalibrácia.

Randenie funguje preto, lebo dvaja ľudia si navzájom ukazujú hrubé verzie seba a rozhodujú sa, či chcú viac. Ak je tvoja hrubá verzia silne filtrovaná cez AI, osoba, ktorú nakoniec spoznáš, sa rozhoduje na základe niekoho, kto úplne neexistuje. Páči sa jej verzia s vyhladenými hranami. Skutočný ty, sediaci oproti nej, má iné hrany. Táto medzera je miestom, kde žije väčšina sklamania z randenia cez aplikácie.

Toto je praktický argument proti používaniu AI ako pisára za teba. Nie že si urobil niečo morálne zlé. Ale že si sťažil správnej osobe rozpoznať ťa a uľahčil nesprávnej osobe pripojiť sa k tvojmu duchu. Oboje je strata.

Používanie AI ako tezauru sa tomuto problému väčšinou vyhýba, pretože kalibrácia toho, kto si, stále pochádza od teba. Vyberáš si, čo povedať. Len dostávaš pomoc s tým, ako to povedať.

Prípady, keď je AI takmer vždy v poriadku

Aby to bolo konkrétne, tu sú prípady použitia, s ktorými takmer každý, s kým som hovoril, súhlasí, že pomoc AI neprekračuje hranicu.

• Keď si zaseknutý. Desať minút pozeráš na správu. AI ti dá tri možnosti. Vybereš jednu, upravíš ju, pošleš. Bez AI by si poslal niečo horšie alebo neposlal nič.
• Čítanie mätúcej situácie. Poslali niečo nejednoznačné. Nevieš, či to bolo milé alebo sarkastické. Opýtať sa AI je ako opýtať sa priateľa, len rýchlejšie.
• Vyčistenie formulácie. Napísal si niečo, čo takmer hovorí to, čo myslíš. AI to sprísni. Myšlienka tam už bola.
• Zvládanie ťažkých chvíľ s citlivosťou. Musíš povedať niečo jemné a v jemnosti nie si dobrý. AI ti môže pomôcť nájsť register, ktorý zo zlej situácie nerobí horšiu.

Prípady, keď AI začína prekračovať hranicu

A tu sú vzorce používania, ktoré sa viac blížia k územiu, z ktorého sa ľudia oprávnene cítia divne.

• Generovanie osobnosti. Používanie AI na premietanie vlastností, ktoré v skutočnosti nemáš. Vtip, ktorý nedokážeš udržať osobne. Sebavedomie, ktoré zmizne, keď sa stretnete. To je verzia, ktorá nastavuje nevyhnutné sklamanie.
• Spamovanie zhôd vo veľkom. Púšťanie každého chatu cez AI, aby si maximalizoval odpovede, bez skutočného záujmu o väčšinu z nich. Druhá osoba je lovená nástrojom, nie človekom.
• Zadávanie emocionálnych momentov externe. Otvoria sa ti o niečom ťažkom. Vložíš to do AI a pošleš navrhnutú odpoveď. Myslia si, že sa spojili s tebou. Spojili sa s kompetentným cudzincom.
• Nahrádzanie práce. Nielen dostávanie pomoci, ale používanie AI tak konzistentne, že sa vlastne nerozvíjaš ako komunikátor. Vzťah, ktorý nakoniec vznikne, bude s niekým, koho schopnosti nezodpovedajú správam.

Úprimné vyhlásenie

Vyrábame nástroj v tejto kategórii. Nie sme neutrálni. Nástroj sme postavili s prípadom použitia "tezaurus" na mysli, preto naše návrhy zobrazujú tri až štyri možnosti namiesto jednej automatickej odpovede a preto krok úpravy ponechávame v rukách používateľa. Produkt je tvarovaný presvedčením, že premyslená verzia tohto je v poriadku a stojí za to robiť ju dobre.

Môžeme sa mýliť. Hranica medzi "tezaurom" a "pisárom za teba" si každý kreslí súkromne a prepracované rozhranie ju môže rozmazať. Úprimná verzia marketingu produktu ako je náš hovorí, že zodpovednosť za zostanie na užitočnej strane hranice je čiastočne na používateľovi a my by sme mali pomáhať, kde vieme.

Z našej strany to znamená, že nesľubujeme, že AI je "tvoj hlas". Nie je. AI nemá tvoj hlas, nepozná tvoju históriu a nemal by si jej dôverovať. Sľubujeme navrhnúť možnosti, ktoré sú dobrým východiskovým bodom. Hlas sa objaví, keď upravuješ.

Čo si ľudia skutočne myslia

Zaujímavá vec pri pýtaní sa okolo na túto otázku je, ako veľmi záleží na tom, ako je otázka položená.

Ak sa spýtaš "vadilo by ti, keby tvoj partner používal AI na písanie niektorých správ", väčšina ľudí povie áno, vadilo by im to. Ak sa spýtaš "vadilo by ti, keby tvoj partner niekedy požiadal AI o pomoc pri formulovaní správy, na ktorej uviazol", väčšina ľudí povie nie. Rovnaké správanie. Iný rámec. Iná reakcia.

Táto medzera je reálna a stojí za premyslenie. Naznačuje, že morálny obsah tu je bližšie k "nahradil si sa" než k "použil si nástroj". Ľudí zaujíma, či si tam bol. Zdá sa, že im kontrola pravopisu príliš nerobí starosti.

Záverečná myšlienka

Ak si prečítal celé toto a čakal na čistú odpoveď, prepáč. Čistá odpoveď je, že "je používanie AI podvádzanie" nie je otázka áno alebo nie, a každý článok, ktorý predstiera opak, predáva buď AI alebo pobúrenie. Skutočná otázka je, či by si im to pohodlne povedal neskôr. Ak áno, pravdepodobne si v poriadku. Ak nie, to je signál, ktorý stojí za to počúvať.

Ešte jedna záverečná myšlienka, povedaná priamočiarejšie: verzia zoznamovania, kde sa snažíš byť dostatočne pôsobivý, aby nikto nezistil, kto skutočne si, je horšia verzia zoznamovania. Nástroje, ktoré ti pomáhajú byť výrečnejší, sú užitočné. Nástroje, ktoré ti pomáhajú byť menej sebou, robia s tebou niečo väčšie ako etika. Skracujú tú časť tvojho života, kde by sa do teba niekto mohol skutočne zamilovať.

Dobrá verzia AI tu je tá, ktorá ti pomáha siahnuť po tom. Zlá verzia ti pomáha pred tým schovávať sa. Rovnaký produkt. Dva výsledky. Tvoja úloha je vedieť, ktorý z nich v daný deň používaš. Naša úloha je stále budovať verziu, ktorá dobrý výsledok uľahčuje a zlý sťažuje.

Pre praktickejšieho sprievodcu hranicou v skutočnom používaní pozri náš článok o tom, ako používať AI na randenie bez toho, aby si znel ako robot.