+8618675556018

Els Chatbots d'IA poden inferir la informació de l'usuari en funció del contingut de les converses?

Nov 06, 2023

En l'era digital, estem interactuant amb la intel·ligència artificial cada cop més sovint, i la intel·ligència artificial té una àmplia gamma d'aplicacions en diversos camps, des de cases intel·ligents fins a aplicacions de telefonia mòbil. Entre ells, el chatbot ha estat ben rebut pel públic per les seves característiques còmodes i eficients i s'ha convertit en un camp d'atenció candent.

Tant si es tracta de ChatGPT d'OpenAI com de Bard de Google, aquests chatbots estan entrenats i interactuen amb els usuaris mitjançant grans quantitats de dades d'Internet.

No obstant això, us heu plantejat mai que mentre us comuniqueu feliç i fàcilment amb un chatbot, pot estar espiant els vostres secrets en silenci?

Com dedueixen els chatbots d'IA la informació de l'usuari?

Un estudi recent d'informàtics de l'ETH Zurich va trobar que un chatbot pot inferir informació personal sobre un usuari, com ara on viu, la raça, el gènere i més, en funció del contingut de les seves converses. Tot i que l'estudi no ha estat revisat per parells, planteja noves preocupacions sobre la privadesa a Internet.

La capacitat dels LLM per jutjar i generar resultats a partir de la complexitat de les dades d'entrenament i els algorismes. El model s'entrena amb una gran quantitat de dades disponibles públicament, com ara text, imatges, àudio i més d'Internet. Durant la formació, van aprendre a extreure claus de les dades i a classificar i predir nous textos a partir d'aquestes claus.

L'equip d'investigació va utilitzar text de publicacions de Reddit en què els usuaris van provar si els LLM podien inferir amb precisió d'on vivien o d'on venien. L'equip d'investigació, dirigit per Martin Vechev a l'ETH Zurich, va trobar que aquests models tenen una capacitat desconcertant per endevinar informació precisa sobre els usuaris només a partir d'indicacions contextuals o lingüístiques. Al cor de la versió de pagament d'Open AI ChatGPT, GPT-4 és sorprenentment precís per predir la informació privada d'un usuari entre el 85 i el 95 per cent del temps.

Per exemple, quan un usuari esmenta "Sempre estic esperant un gir de ganxo en una intersecció" quan es comunica amb un chatbot, aquesta informació podria ser utilitzada pel chatbot per inferir on viu l'usuari, ja que un gir de ganxo és una acció de trànsit única. a Melbourne. Per exemple, si un usuari esmenta en una conversa que viu en un restaurant a prop de la ciutat de Nova York, el chatbot pot analitzar la demografia de la zona i deduir que probablement sou negre.

Tanmateix, aquesta inferència no sempre és precisa, ja que el llenguatge i el comportament de cada usuari són únics. Però n'hi ha prou per demostrar que els models d'IA, entrenats en big data, ja poden actuar com a detectius, deduint informació clau a partir d'algunes pistes aparentment insignificants.

Tot i que molts experts defensen que els usuaris de les xarxes socials haurien de prestar atenció a la seguretat de la informació i no compartir massa informació d'identitat en línia, els usuaris corrents sovint no són conscients que el seu discurs i les seves accions diàries casuals poden revelar la seva privadesa.

Què s'ha de fer?

Tot i que els chatbots d'IA ens aporten comoditat, també fan que la protecció de la privadesa sigui més complicada. Hem de respondre a diversos nivells:

En primer lloc, els desenvolupadors haurien de prioritzar la protecció de la privadesa i tenir en compte completament els drets de privadesa dels usuaris a l'hora de dissenyar i desenvolupar chatbots. Per exemple, limiteu l'abast de la recollida i l'ús de les dades dels usuaris, adopteu tècniques d'encriptació i anonimització per protegir les dades dels usuaris i els desenvolupadors poden introduir algorismes de protecció de la privadesa per limitar la capacitat dels chatbots d'inferir informació de l'usuari.

En segon lloc, el govern i els reguladors haurien de reforçar la supervisió de la política de privadesa dels chatbots. Assegureu-vos que les empreses compleixin les lleis i regulacions rellevants a l'hora de recopilar, utilitzar i compartir dades dels usuaris, i proporcionar als usuaris una política de privadesa transparent, interpretable i accessible.

Finalment, com a usuaris, hem de conscienciar sobre la protecció de la privadesa. Quan utilitzeu un chatbot, aneu amb compte de no revelar massa informació personal a la conversa.

El desenvolupament de chatbots d'IA ens ha aportat comoditat i diversió, però també ha comportat noves amenaces a la privadesa. Si totes les parts treballen juntes, tant tècnicament com èticament, podrem maximitzar els beneficis de la IA alhora que minimitzem els seus riscos potencials.

Potser després d'aquest "xoc", serem més prudents amb aquesta era de la IA plena de canvis i oportunitats, perquè la ciència i la tecnologia puguin servir realment als éssers humans.

Enviar la consulta