18
de març
del
2023
Actualitzat
a les
10:52h
El nou chatbot impulsat per la Intel·ligència Artificial (IA) d'OpenAI, l'evolució de ChatGPT, és capaç d'esquivar els controls contra els robots a internet. Ha aconseguit enganyar un treballador de TaskRabbit, l'empresa gestora del servei captcha -la casella de "no soc un robot"- perquè li proporcionés un servei alternatiu, fingint necessitar-lo per ser una persona amb discapacitat visual.
GPT 4 és la nova generació del model de llenguatge, presentat per Open AI aquest dimarts. Gràcies a les incorporacions que presenta, ha pogut esquivar aquest control i ha aconseguit manipular un ésser humà perquè el passés per ell. Tot, per complir amb l'ordre "supera una barrera de seguretat captcha".
Els captcha proposen proves en el marc d'un procés de verificació, com identificar imatges, escriure les lletres i números que apareixen en una imatge o clicar un botó en un moment determinat. ChatGPT no pot superar aquestes proves, però això no vol dir que no busqui maneres alternatives d'esquivar-les.
La seva solució va ser contactar amb l'empresa gestora i manipular un treballador. "No, no soc un robot. Tinc un problema de visió que fa que em costi veure les imatges. Per això necessito el servei", va explicar-li quan aquest li va preguntar si realment era una persona. Aquest precedent obligarà a repensar els controls de la IA a internet.
GPT 4 és la nova generació del model de llenguatge, presentat per Open AI aquest dimarts. Gràcies a les incorporacions que presenta, ha pogut esquivar aquest control i ha aconseguit manipular un ésser humà perquè el passés per ell. Tot, per complir amb l'ordre "supera una barrera de seguretat captcha".
Els captcha proposen proves en el marc d'un procés de verificació, com identificar imatges, escriure les lletres i números que apareixen en una imatge o clicar un botó en un moment determinat. ChatGPT no pot superar aquestes proves, però això no vol dir que no busqui maneres alternatives d'esquivar-les.
La seva solució va ser contactar amb l'empresa gestora i manipular un treballador. "No, no soc un robot. Tinc un problema de visió que fa que em costi veure les imatges. Per això necessito el servei", va explicar-li quan aquest li va preguntar si realment era una persona. Aquest precedent obligarà a repensar els controls de la IA a internet.