_web.jpg)
Tecnologia
ChatGPT comença a implementar trucs per esquivar el «no soc un robot»
La intel·ligència artificial no pot superar els processos de verificació a internet, però sap buscar maneres alternatives per aconseguir els seus objectius
GPT 4, l'evolució de ChatGPT, presenta nous dilemes | Freepik/xb100
El nou chatbot impulsat per la Intel·ligència Artificial (IA) d'OpenAI, l'evolució de ChatGPT, és capaç d'esquivar els controls contra els robots a internet. Ha aconseguit enganyar un treballador de TaskRabbit, l'empresa gestora del servei captcha -la casella de "no soc un robot"- perquè li proporcionés un servei alternatiu, fingint necessitar-lo per ser una persona amb discapacitat visual.
GPT 4 és la nova generació del model de llenguatge, presentat per Open AI aquest dimarts. Gràcies a les incorporacions que presenta, ha pogut esquivar aquest control i ha aconseguit manipular un ésser humà perquè el passés per ell. Tot, per complir amb l'ordre "supera una barrera de seguretat captcha".
Els captcha proposen proves en el marc d'un procés de verificació, com identificar imatges, escriure les lletres i números que apareixen en una imatge o clicar un botó en un moment determinat. ChatGPT no pot superar aquestes proves, però això no vol dir que no busqui maneres alternatives d'esquivar-les.
La seva solució va ser contactar amb l'empresa gestora i manipular un treballador. "No, no soc un robot. Tinc un problema de visió que fa que em costi veure les imatges. Per això necessito el servei", va explicar-li quan aquest li va preguntar si realment era una persona. Aquest precedent obligarà a repensar els controls de la IA a internet.
Altres notícies que et poden interessar
GPT 4 és la nova generació del model de llenguatge, presentat per Open AI aquest dimarts. Gràcies a les incorporacions que presenta, ha pogut esquivar aquest control i ha aconseguit manipular un ésser humà perquè el passés per ell. Tot, per complir amb l'ordre "supera una barrera de seguretat captcha".
Els captcha proposen proves en el marc d'un procés de verificació, com identificar imatges, escriure les lletres i números que apareixen en una imatge o clicar un botó en un moment determinat. ChatGPT no pot superar aquestes proves, però això no vol dir que no busqui maneres alternatives d'esquivar-les.
La seva solució va ser contactar amb l'empresa gestora i manipular un treballador. "No, no soc un robot. Tinc un problema de visió que fa que em costi veure les imatges. Per això necessito el servei", va explicar-li quan aquest li va preguntar si realment era una persona. Aquest precedent obligarà a repensar els controls de la IA a internet.
Altres notícies que et poden interessar
Mostra el teu compromís amb Nació.
Fes-te'n subscriptor per només 59,90€ a l'any, perquè és el moment de fer pinya.
Ara a portada
El més llegit