Európsky hospodársky a sociálny výbor (EHSV) vypracoval dve stanoviská k návrhom právnych predpisov Európskej únie (EÚ) o umelej inteligencii. Žiada v nich, aby sa rozhodne zakázalo sociálne hodnotenie a vytvoril mechanizmus na vybavovanie sťažností a nápravu pre ľudí, ktorí v dôsledku umelej inteligencie utrpeli škodu.
Na svojom plenárnom zasadnutí EHSV ocenil návrh aktu o umelej inteligencii a koordinovaného plánu v oblasti umelej inteligencie.
EHSV zastáva názor, že nová legislatíva skutočne kladie prvoradý dôraz na zdravie, bezpečnosť a základné práva a má globálny rozmer, pretože sa v nej stanovuje súbor požiadaviek, ktoré budú musieť dodržiavať európski aj zahraniční vývojári, ak chcú svoje výrobky predávať v krajinách EÚ.
Podľa EHSV je v návrhoch aj niekoľko slabých miest, napríklad pokiaľ ide o tzv. sociálne hodnotenie. Výbor upozorňuje na nebezpečenstvo tohto postupu, ktorý sa v Európe stáva bežnou praxou, rovnako ako v Číne, kde vláda môže zájsť až tak ďaleko, že odoprie ľuďom prístup k verejným službám.
Návrh aktu o umelej inteligencii zahŕňa zákaz sociálneho hodnotenia zo strany verejných orgánov v Európe, ale EHSV by chcel, aby sa tento zákaz rozšíril aj na súkromné a polosúkromné organizácie. Zabránilo by sa tým využívaniu sociálneho hodnotenia napríklad na to, aby sa posúdilo, či je žiadateľ oprávnený získať pôžičku alebo hypotekárny úver.
EHSV taktiež upozorňuje na nebezpečenstvá, spojené s klasifikáciou vysokorizikovej umelej inteligencie a varuje, že tento postup môže viesť k normalizácii a zavádzaniu viacerých postupov umelej inteligencie, ktoré sú aj naďalej ostro kritizované. Povolilo by sa biometrické rozpoznávanie, vrátane rozpoznávania emócií, pri ktorom by sa výraz tváre, tón hlasu, držanie tela a gestá analyzovali s cieľom predpovedať budúce správanie, odhaliť lož a dokonca zistiť, či by daná osoba mohla byť vhodným uchádzačom pre príslušné pracovné miesto. Na základe umelej inteligencie by sa posudzovali, bodovali a dokonca prepúšťali pracovníci alebo hodnotili študenti na skúškach.
Okrem toho navrhované požiadavky na vysokorizikovú umelú inteligenciu nedokážu vždy zmierniť ohrozenie zdravia, bezpečnosti a základných práv, ktoré sa s týmito praktikami spájajú. Preto je potrebné zaviesť mechanizmus na vybavovanie sťažností a nápravu, aby ľudia, ktorí v dôsledku systémov umelej inteligencie utrpeli škodu, mali právo spochybniť rozhodnutia, prijaté len pomocou algoritmov.
Podľa názoru EHSV, akt o umelej inteligencii vychádza z hypotézy, že akonáhle budú splnené požiadavky pre stredne rizikovú a vysokorizikovú umelú inteligenciu, môže umelá inteligencia do značnej miery nahradiť ľudské rozhodovanie.
„V EHSV sme sa vždy zasadzovali za prístup k umelej inteligencii, pri ktorom zostáva vo vedení človek, pretože nie všetky rozhodnutia možno ponechať na algoritmy,“ uviedla Catelijne Muller, spravodajkyňa stanoviska EHSV v súvislosti s aktom o umelej inteligencii. „Mnohé rozhodnutia majú morálny aspekt, vážne právne dôsledky a veľký spoločenský dosah, napríklad rozhodnutia týkajúce sa presadzovania práva alebo v oblasti súdnictva, sociálnych služieb, bývania, finančných služieb, vzdelávania či pracovnoprávnych vzťahov. Sme naozaj pripravení umožniť umelej inteligencii, aby nahradila ľudské rozhodovanie aj v takých dôležitých oblastiach, ako je presadzovanie práva a súdnictvo?“
Zdroj: EHSV
Fotografia: © Pexels Markus Spiske
Európsky hospodársky a sociálny výbor zastupuje rôzne hospodárske a sociálne zložky organizovanej občianskej spoločnosti. Je poradným inštitucionálnym orgánom a bol založený Rímskou zmluvou v roku 1957. Táto poradná úloha umožňuje jeho členom, a tým aj organizáciám, ktoré zastupujú, zúčastňovať sa na rozhodovacom procese EÚ.