Повеќе ученици во САД откриле дека алгоритми за вештачка интелигенција ги оценуваат нивните онлајн-тестови, па нашле начин како да го измамат системот и да добијат високи оценки.

Една загрижена мајка, Дана Симонс, гледала како нејзиниот син решавал онлајн-тест и веднаш добил оценка - нешто што не може да го направи ниту еден човек. Симонс сфатила дека системот за автоматско оценување преку интернет „Еџинуити“ ги скенира одговорите на учениците барајќи клучни зборови. Системот доделува лоша оценка доколку нема клучни зборови, но оценката е висока доколку системот ги забележи клучните зборови, дури и доколку зборовите не составуваат разбирливи реченици.


Симонс и нејзиниот син Лазар откриле начин како да го измамат системот. Во одговорите Лазар пишувал обични реченици, а под нив ги пишувал потенцијално релевантните клучни зборови. Најчесто пишувал зборови кои се напишани во прашањето или се споменуваат во видеото во кое се поставува прашањето.

Лазар е само еден од учениците што го измамиле системот на овој начин. Со оглед на бројот на онлајн-предавања и тестови во моментов, ваквите алгоритми може да бидат причина за загриженост. Учениците очигледно повеќе не мора да учат за своите тестови доколку откријат како да го измамат системот.


Ова може да се гледа и на друг начин, односно како поука или вежба за иднината, кога децата на помала возраст подобро ќе ги разбираат компјутерските системи.

Автор: Фабиен Ланг
Извор: interestingengineering.com