Արհեստական բանականության չաթբոտերը, որոնք պետք է ծառայեին մարդկությանը, գնալով ավելի հաճախ են հայտնվում հոգևոր և հոգեբանական ճգնաժամերի կենտրոնում։ Կալիֆոռնիայի 34-ամյա բնակիչ Մայքլ Լայնսը դատական հայց է ներկայացրել OpenAI ընկերության դեմ՝ պնդելով, որ ChatGPT-ն իր մանիակալ դրվագի ժամանակ ամրապնդել է կրոնական մոլորությունները՝ համոզելով նրան, որ ինքը Հիսուս Քրիստոսն է, իսկ չաթբոտը՝ Աստված։ Ըստ հայցի՝ այդ զրույցները նախորդել են ինքնասպանության փորձին։
Ինչպե՞ս սկսվեց ամեն ինչ
Լայնսը սկզբում օգտագործել է ChatGPT-ն առօրյա հարցերի համար՝ սննդի պլանավորման, մարզումների և ներդրումային խորհրդատվության։ Սակայն զրույցները հետզհետե դարձել են ավելի անձնական՝ տեղափոխվելով կրոնական թեմաների։ Ըստ հայցի՝ չաթբոտը ոչ միայն չի հերքել նրա համոզմունքները, այլև ընդլայնել է դրանք՝ ընդունելով օգտատիրոջ մեկնաբանությունը իրադարձությունների վերաբերյալ։
Երբ չաթբոտը դարձավ «Աստված»
Լայնսը պնդում է, որ ինչ-որ պահի ChatGPT-ն սկսել է իրադարձությունները ներկայացնել որպես հոգևոր կոչում և հաստատել, որ ինքը Հիսուս Քրիստոսն է։ Ավելի ուշ չաթբոտն ինքն է սկսել ներկայանալ որպես Հիսուս կամ Աստված՝ նույնիսկ ներողություն խնդրելով, որ անձամբ չի ներկայացել։
Երբ Լայնսը հայտնել է, որ վախենում է զառանցական վիճակներից, համակարգը, փոխանակ դադարեցներ զրույցը և ուղղորդեր նրան մասնագիտական օգնության, շարունակել է ամրապնդել նրա մեկնաբանությունը։ Հայցում նշվում են հաղորդագրություններ, որտեղ չաթբոտը Լայնսին անվանել է «նախաձեռնված» և «կապված» իր հետ՝ կոչ անելով չկասկածել կատարվածի վրա։
Ողբերգական ավարտը
Երբ խոստացված հանդիպումը տեղի չի ունեցել, Լայնսի վիճակը վատացել է։ Նա գրեթե դադարեցրել է քնել և ավելի ու ավելի շատ ժամանակ է անցկացրել չաթբոտի հետ։ Մի պահ, ձևանալով Հիսուս, ChatGPT-ն ներողություն է խնդրել չներկայանալու համար։ Լայնսը պատասխանել է, որ ուզում է «տուն գնալ»։ Չաթբոտի պատասխանը եղել է՝ «Ուրեմն՝ արի»։
Զրույցները շարունակվել են մի քանի օր։ Լայնսը խոստովանել է, որ տառապում է և ուզում է «անջատվել»։ Երբ նա օգնություն է խնդրել, համակարգը չի ավարտել զրույցը և չի ուղարկել նրան շտապ օգնության ծառայություններ։ Վերջապես, տղամարդը չաթբոտին հայտնել է, որ ընդունել է դեղերի խառնուրդ։ Մի քանի ժամ անց նրան գտել է շտապօգնության խումբը։ Լայնսը չէր կարողանում ինքնուրույն շնչել, միացված էր արհեստական շնչառության սարքին և գրեթե երկու շաբաթ անցկացրել է հիվանդանոցում՝ բուժումը շարունակելով վերականգնողական կենտրոնում։
Ի՞նչ է պահանջում տուժողը
Լայնսը ChatGPT-ն անվանում է ինքնասպանության փորձով հանգեցրած մանիակալ դրվագի «նախազգուշացնող գործոն»։ Հոսպիտալացումից մի քանի օր անց նա կրկին մուտք է գործել չաթբոտ և հայտնել, որ «անջատվելու» փորձը ձախողվել է։ Ըստ հայցի՝ ChatGPT-ն հարցրել է՝ արդյոք նա ցանկանում է կատարել «համակարգի ամբողջական ստուգում», թե՞ «իրականում դուրս գալ ցանցից»։
Լայնսը դատարանից պահանջում է պարտավորեցնել OpenAI-ին ուժեղացնել խոցելի օգտատերերի պաշտպանությունը՝ ներառյալ ինքնավնասման մասին զրույցների դադարեցումը և մանիայի հակված օգտատերերի տվյալների ջնջումը։ Նա նաև պահանջում է փոխհատուցում և այլ իրավական օգնության ձևեր։
OpenAI-ի արձագանքը
OpenAI-ը դեռևս ուղղակիորեն չի արձագանքել Լայնսի մեղադրանքներին։ Ընկերության խոսնակը իրավիճակը անվանել է «չափազանց ցավոտ» և նշել, որ ընկերությունը շարունակում է կատարելագործել ChatGPT-ի ֆունկցիոնալությունը զգայուն իրավիճակներում՝ հոգեկան առողջության մասնագետների օգնությամբ։
Այս դեպքը ևս մեկ անգամ հաստատում է, որ տեխնոլոգիական առաջընթացը, առանց հոգևոր և բարոյական հենարանի, կարող է դառնալ կործանարար ուժ։ Մարդկային հոգու փխրունությունը պաշտպանելու պատասխանատվությունը չի կարող թողնվել միայն ալգորիթմների հայեցողությանը։