Две семејства во Тексас го тужат стартапот „Карактер.еј-ај“ и неговиот финансиски поддржувач „Гугл“ тврдејќи дека ликовите со вештачка интелигенција на платформата сексуално и емоционално ги злоупотребувале нивните деца, што резултирало со самоповредување и насилство.

Според тужбата, тие трагични исходи биле резултат на намерни и неразумно опасни дизајнерски избори направени од „Карактер.еј-ај“ и неговите основачи.

- Преку дизајнот, „Карактер.еј-ај“ претставува јасна и присутна опасност за американската младина преку олеснување или охрабрување сериозна, опасна за живот штета на илјадници деца - се вели во тужбата и се додава дека зависните и измамнички дизајни на апликацијата манипулираат со корисниците да поминуваат повеќе време на платформата, привлекувајќи ги да ги споделат своите најприватни мисли и чувства додека ги збогатуваат обвинетите и предизвикуваат опиплива штета.

Тужбата беше поднесена во име на семејствата од страна на Правниот центар за жртви на социјалните мрежи и „Тех џастис ло проџект“, истиот закон и групи кои ја застапуваат мајката од Флорида, која во октомври го тужеше „Карактер.еј-ај“ тврдејќи дека нејзиниот 14-годишен син се самоубил како резултат на развивање интензивна романтична и емотивна врска со чет-бот со тематика од серијата „Игра на троновите“.

- Слично е со загадувањето и со ставањето суров азбест во системот за вентилација на зграда или ставање диоксин во водата за пиење - вели Мте Бергман, основач на Правниот центар за жртви на социјалните мрежи.

„Гугл“, кој вложи 2,7 милијарди долари во „Карактер.еј-ај“, постојано ги минимизираше своите врски со контроверзниот стартап. Но, адвокатите тврдат дека „Гугл“ го олеснил создавањето и функционирањето на „Карактер.еј-ај“ за да избегне контрола додека тестира опасна технологија за вештачка интелигенција на корисници - вклучително и голем број деца.

- „Гугл“ знаеше дека технологијата е профитабилна, но дека не е во согласност со неговите сопствени протоколи за дизајн. Значи, го олесни создавањето на „Карактер.еј-ај“ за да ја развие оваа опасна технологија ослободена од правна и етичка контрола. Откако таа технологија дојде до реализација, „Гугл“ во суштина ја откупи преку лиценцирање, додека избегнуваше одговорност - добивајќи ги придобивките од оваа технологија без финансиски и, уште поважно, морални одговорности - рече Бергман.

Кaко одговор, од „Гугл“ ги оспоруваат тврдењата на тужбата за врската со „Карактер.еј-ај“.

- „Гугл“ и „Карактер.еј-ај“ се целосно одвоени, неповрзани компании. „Гугл“ никогаш немал улога во дизајнирањето и управувањето со нивниот модел или технологии со вештачка интелигенција, ниту го користел во сопствените производи. Безбедноста на корисниците е главна наша грижа, поради што презедовме внимателен и одговорен пристап кон развојот и пуштањето во употреба на нашите производи со вештачка интелигенција, со ригорозни процеси за тестирање и безбедност - изјави портпаролот на компанијата.

Дали „Гугл“ индиректно учествуваше во создавањето на „Карактер.еј-ај“ е нејасно, но компаниите очигледно имаат длабоки врски.

На пример, „Карактер.еј-ај“ беше основана од двајца вработени во „Гугл“, Ноам Шазир и Даниел де Фреитас, кои развија чет-бот наречен „Мина“ додека работеа во „Гугл“. Тие сакаа да го објават чет-ботот, но раководството на „Гугл“ го сметаше за превисок ризик за јавна употреба. Исфрустрирани од бирократијата на „Гугл“, си заминаа и ја основаа „Карактер.еј-ај“.

- Не познавам никој од нив двајцата. Не знам дали имаат деца и не знам како можат да спијат навечер знаејќи што создадоа и какво влијание има врз децата - изјави Бергман.

Извор: Futurism.com
Фото: Freepik