Tekoäly

Opiskelijat murtavat tekoälyn automaattisen luokittelun algoritmeja parempien arvosanojen saamiseksi

Opiskelijat murtavat tekoälyn automaattisen luokittelun algoritmeja parempien arvosanojen saamiseksi


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Kuvittele, että palaat takaisin kouluun ja näet arvosanasi siirtyvän F: stä A +: een, kun olet kirjoittanut valikoiman tiettyjä sanoja laatikkoon online-testin aikana. Näillä sanoilla ei ole yhtenäistä rakennetta, eivätkä ne luo lauseita. Luulisi, että se oli hulluutta!

Mutta saatuaan selville, että tekoälyalgoritmit luokittelivat online-testinsä, useat opiskelijat Yhdysvalloissa löysivät tavan huijata järjestelmää ja siirtyä matalista arvosanoista korkeimpiin.

Raja oli ensimmäinen, joka kertoi tarinasta.

KATSO MYÖS: Tekoälyn etiikka: KEHITTÄVYYDEN JÄRJESTELMIEN EDUT JA RISKIT

Huolestunut vanhempi Dana Simmons katsoi lapsensa Lazaren ottavan verkkotestin, kun tajusi nopeasti, että tekoälyn algoritmi luokittelee sen, per partaalla. Arvosana annettiin heti, kun Lazare oli lähettänyt testinsä, mitä kukaan ihminen ei voinut tehdä.

Tarkasteltuaan oikeita vastauksia Simmons sai selville, että online-automaattinen arviointijärjestelmä Edgenuity etsii opiskelijoiden vastauksia etsimällä avainsanoja - jos niitä ei näy, arvosana oli heikko, mutta jos he olivat siellä (ei riippumatta siitä, kirjoitetaanko ne kokonaisina lauseina), arvosana oli korkea.

Simmons ja Lazare keksivät tapan huijata järjestelmää. Vastaamaan kysymykseen Lazare kirjoittaa nyt kaksi säännöllistä virkettä, joita seuraa merkkijono mahdollisesti osuvia avainsanoja. Kuten Lazare selitti partaalla, hän yleensä kirjoittaa sanoja, jotka on kirjoitettu kysymykseen tai mainittu kysymyksen videossa.

Algoritmin päivitys. Hän mursi sen: Kaksi täyttä virkettä, jota seurasi sanasalaatti kaikista mahdollisista avainsanoista. 100% jokaisesta tehtävästä. Opiskelijat @EdgenuityInc -sivustolla, lippusi on mukana. Hän siirtyi F: stä A +: een oppimatta mitään.

- Dana Simmons (@DanaJSimmons) 2. syyskuuta 2020

Lazare on vain yksi monista opiskelijoista, jotka keksivät tämän menetelmän.

Kun otetaan huomioon online-luokkien ja testien lukumäärä tällä hetkellä verkossa, tämän tyyppinen tekoälyn algoritmi voi olla huolestuttava. Opiskelijoiden ei tarvitse enää opiskella kokeita varten, kunhan he keksivät keinon huijata tekoälyjärjestelmää avainsanojen avulla.

Toinen tapa tarkastella sitä olisi ehkä sanoa, että tämä voisi olla hyvä oppiminen ja käytäntö tulevaisuutta varten, koska lapset ovat hyvässä asemassa tulevaisuudessa, jos he ymmärtävät tietojärjestelmiä hyvin nuoresta iästä lähtien.


Katso video: Tekoälyä arkijärjellä, osa 4. Huomenta Suomi (Tammikuu 2023).