Sistemele de luare automată a deciziilor sunt deja utilizate într-o varietate de moduri de către comercianți atunci când își comercializează produsele către consumatori și pentru încheierea de contracte.
În zilele noastre, multe site-uri web se bazează pe o formă de luare automată a deciziilor pentru a primi și procesa comenzile plasate de consumatori. În acest sens, decizia automată unilaterală pentru încheierea contractelor este deja o practică obișnuită și folosită de mult timp, chiar dacă a ridicat preocupări juridice specifice cu privire la eficacitatea contractelor încheiate în acest mod. Totuși, în momentul de față, nimeni nu mai pune acum la îndoială eficacitatea juridică a acestei forme de contractare. Sistemele de decizie automată au fost, de asemenea, utilizate pe scară largă în scopuri de marketing, deși nici acest lucru nu a fost lipsit de controverse, în special atunci când se bazează pe realizarea de profiluri ale consumatorilor, bazate pe algoritmi, care duc la prețuri personalizate.
Mai nou, asistenții virtuali bazați pe inteligența artificială (AI) și chatboții bazați pe AI sunt exemple al modului în care sistemele automate de luare a deciziilor sunt folosite în viața noastră de zi cu zi. Acești asistenți digitali folosesc inteligența artificială (AI) avansată , bazate pe procesarea și înțelegerea limbajului natural și învățarea automată pentru a învăța pe măsură ce colectează date, oferind o interacțiune și o experiență conversațională personalizată.
Asistenții digitali sau virtuali AI sunt mai avansați și capabili să îndeplinească numeroase sarcini, inclusiv procesarea interogărilor complexe, gestionarea dispozitivelor inteligente de acasă și programarea întâlnirilor. Chatboții, în schimb, au o funcționalitate mai restrânsă și sunt potrivite pentru sarcini specifice, cum ar fi preluarea informațiilor, asistența pentru clienți și urmărirea comenzilor. Asistenții virtuali bazați pe inteligența artificială (AI) de tip predictiv, orientați spre consumator, bazați pe prelucrarea datelor sunt mult mai avansați și sofisticați ca funcții îndeplinite, fiind capabil de personalizarea interacțiunii cu acesta, sporind astfel experiența clientului, față de varietatea simplă a asistentului de tip chatbot, orientat spre sarcini. Asistenții virtuali bazați pe AI sunt mai avansați și capabili să îndeplinească numeroase sarcini, inclusiv procesarea interogărilor complexe, gestionarea dispozitivelor inteligente de acasă și programarea întâlnirilor. Chatboții au o funcționalitate mai restrânsă și sunt potrivite pentru sarcini specifice, cum ar fi preluarea informațiilor, asistența pentru clienți și urmărirea comenzilor.
Din perspectiva consumatorilor, problema este că sistemele de luare automată a deciziilor pot fi opace și nu duc neapărat la decizii obiective sau neutre, deoarece rezultatele sunt adesea nedrepte și chiar discriminatorii. De exemplu, există o mulțime de probleme atunci când analizăm acest lucru din perspectiva consumatorului:
- capacitatea unui chatbot AI sau a unui asistent virtual de a învăța și de a se adapta la preferințele utilizatorilor și de a oferi informații personalizate înseamnă că sunt procesate o mulțime de date despre vizitatorii unui site care oferă servicii și produse pentru consumatori, cu scopul de a crea o experiență personalizată, pentru a oferi conținut personalizat. Acest lucru ar avea implicații în conformitate cu Regulamentul General privind Protecția Datelor cu Caracter Personal cu privire la modul în care sunt prelucrate datele. Mai mult, există cerința în GDPR de a colecta consimțământul de la consumator – ca atare politica de confidențialitate trebuie să includă posibilitatea revocării consimțământului și dezabonării, care nu întotdeauna sunt îndeplinite de aplicațiile de tip chatbot sau asistent virtual într-o manieră care să faciliteze opțiunile consumatorilor.
- detectarea și înțelegerea tiparelor comportamentale înseamnă că există o mulțime de date pe care chatboții și asistenții digitali bazați pe inteligența artificială le prelucrează pentru a ajuta la identificarea unor tipare comportamentale care rămân nedetectabile oamenilor.
- deoarece chatboții și nu numai ei folosesc AI pentru a recunoaște și înțelege emoțiile utilizatorilor pe baza cuvintelor introduse, datele biometrice ale unui utilizator sunt de obicei folosite în sistemele de recunoaștere a emoțiilor. De exemplu practicile folosite de comercianții care folosesc diverși asistenți digitali prin care implică utilizarea tehnicilor subliminale, sau manipularea deciziilor minorilor sau ale persoanelor cu dizabilități sau care exploatează lipsa de conștientizare a indivizilor cu privire la efectele unor anumite decizii. De exemplu, jucăriile cu asistenți vocali care incită sau pot incita minorii la un comportament periculos sunt considerate ca o practică cu risc ridicat.
- O altă problemă este domeniul de aplicare al normelor actuale privind răspunderea, care au fost dezvoltate mai degrabă pentru bunurile mobile fabricate decât pentru produsele digitale, plasate integral în lumea virtuală, cum ar fi software-ul. Este clar că regulile privind răspunderea trebuie să răspundă în mod adecvat problemelor ridicate de serviciile digitale defectuoase. De asemenea, conceptul de daune din comerțul cu bunuri și servicii din lumea reală nu este potrivit pentru practica din universul virtual, deoarece nu acoperă daunele aduse mediului digital sau daunele consecvente care rezultă din procesele de luare automată a deciziilor, care se materializează dacă consumatorii sunt vătămați în interesele lor economice sau pe criterii de utilizare în siguranță sau de afectare a sănătății lor, în ciuda faptului că au utilizat corect produsul, conform acordului dat și așteptărilor avute când au încheiat contractele. Dacă se întâmplă acest lucru, profesioniștii din lanțul de aprovizionare ar trebui să fie considerați responsabili pentru prejudiciul sau daunele produs. Chiar și conceptul de „daune” ar trebui revizuit pentru a acoperi daunele aduse prin intermediul mediului digital și consecințele dăunătoare care rezultă din procesele bazate pe sistemele de decizie automată.
De aceea, legislatorii Uniunii Europene ar trebui să perfecționeze standardul juridic specific de siguranță care se referă la produsele cu software încorporat, în special atunci când folosesc luarea deciziilor bazate pe algoritmi. În acest scop, ar trebui să se analizeze dacă cadrul UE de siguranță este adecvat pentru practică, în special Directiva privind siguranța generală a produselor. Noile norme ar trebui să oblige comercianții să pună în aplicare un principiu implicit de siguranță și securitate prin proiectare.
Eforturi în adoptarea reglementărilor de protecție a consumatorilor ar trebui făcute și pentru a asigura cooperarea autorităților din interiorul și din afara Uniunii Europene, precum și dezvoltarea de strategii pentru a face față riscurilor asociate proceselor bazate pe sistemele de decizie automată din afara Uniunii, care au un risc de a prejudicia sau care cauzează daune consumatorilor din Uniune.
