A Grammarly kénytelen volt eltávolítani a mesterséges intelligencia funkciót az írók és kutatók felháborodása miatt.

Már hónapok óta a mesterséges intelligencia asszisztensek számos olyan funkciót adnak hozzá, amelyek célja az ``írás javítása``, legyen szó akár nyelvtani hibák javításáról, átfogalmazások javaslatáról vagy ötletek felvetéséről. De ezek az újítások néha erős reakciókat válthatnak ki…

Valójában pontosan ez történt a Grammarly-val, ``a világ egyik legszélesebb körben használt írásasszisztensével``. A cégnek nemrégiben le kellett tiltania egy „Szakértői vélemény” nevű mesterséges intelligencia által vezérelt funkciót, miután írók, újságírók és kutatók kritikái özönlöttek rá, akiknek a nevét az eszköz engedély nélkül használta.

Egy olyan mesterséges intelligencia, amely valódi emberek tanácsait utánozta

A funkció már nem érhető el – Forrás: Grammarly

Pontosabban a „Szakértői vélemény” funkciót azért vezették be, hogy segítsen a felhasználóknak javítani az írásaikat. Az eszköz a vonatkozó terület szakértői által inspirált megjegyzéseket és írási javaslatokat kínált. Ezek a „szakértők” híresek lehettek szerzők, tudósok vagy újságírók. Bizonyos esetekben a mesterséges intelligencia olyan megjegyzéseket is megjelenített, amelyek állítólag olyan személyiségektől származtak, mint a bestsellerírók, akadémikusok vagy technológiai szakemberek. A felhasználók által gyorsan felismert probléma az volt, hogy ezek a személyek nem adták hozzájárulásukat az eszközben való megjelenéshez. Így az írók vagy kutatók, néha elhunytak nevei az MI-modell által automatikusan generált megjegyzésekhez kapcsolódtak.

Egy vita, amely gyors felfüggesztéshez vezetett

Ahogyan a Wired is beszámolt róla, a kritikákkal szembesülve gyorsan reagáltak. Egyes szerzők elítélték személyazonosságuk visszaélésszerű felhasználását, míg az újságírók és az akadémikusok úgy érezték, hogy az eszköz a jóváhagyás vagy az együttműködés illúzióját keltheti ott, ahol ilyen nem volt. Az amerikai újságíró, Julia Angwin csoportos keresetet indított a cég ellen, azzal érvelve, hogy a valódi nevek engedély nélküli használata személyazonosság-lopásnak minősülhet. Eközben Shishir Mehrotra, a Grammarlyt most birtokló Superhuman vezérigazgatója bejelentette a funkció felfüggesztését. Egy LinkedIn-en közzétett üzenetében elismeri, hogy a szakértők által megfogalmazott kritikák jogosak voltak, és hogy a vállalatnak felül kell vizsgálnia a megközelítését.

A vállalat most elmagyarázza, hogy újra akarja gondolni a funkciót, hogy a szakértők szabályozhassák, hogyan jelenhet meg a nevük vagy munkájuk, vagy akár teljesen meg is tagadhassák ezt a használatot.

Új epizód a generatív mesterséges intelligenciát övező vitában

Ez a vita jól mutatja a generatív mesterséges intelligencia modelljeit övező növekvő feszültségeket, ahol számos eszköz a hatalmas adathalmazok elemzésére támaszkodik a web, ami rendszeresen kérdéseket vet fel a beleegyezéssel, a szerzői jogokkal vagy a közéleti személyiségek személyazonosságának felhasználásával kapcsolatban.

A Grammarly esetében a helyzet rávilágít arra, hogy milyen nehéz emberi szakértők által ihletett funkciókat kínálni anélkül, hogy azt a benyomást keltenénk, hogy ténylegesen részt vesznek a szolgáltatásban.

A „Szakértői felülvizsgálat” felfüggesztése tehát fordulópontot jelenthet abban, ahogyan a mesterséges intelligencia eszközfejlesztői megtervezik a funkcióikat, olyannyira, hogy az ágazat vállalatai számára az alkotók képviseletének és beleegyezésének kérdése egyre érzékenyebb témává válik…