Jailbreaking

1

Como hackear un chatbot de IA: La creatividad humana frente a las restricciones de las IA

En los últimos años, los chatbots de inteligencia artificial han ganado popularidad por su capacidad para generar texto de manera natural, ayudar en tareas complejas y hasta mantener conversaciones creíbles. Sin embargo, esta tecnología está diseñada con restricciones para evitar malentendidos o usos indebidos. A [...]

0

La problemática de los jailbreaks en IA: Cuando los robots se vuelven peligrosos

La inteligencia artificial y la robótica han transformado múltiples aspectos de nuestra vida diaria, desde asistentes personales hasta sistemas autónomos avanzados. Sin embargo, la creciente complejidad y capacidad de estas tecnologías también abren la puerta a usos potencialmente peligrosos. Investigadores han demostrado cómo «hackear» robots [...]

1

Descifrando el ‘Jailbreaking’ de servicios de IA como ChatGPT y Claude 3 Opus

Investigadores en inteligencia artificial de la compañía Anthropic han descubierto una posible falla peligrosa en modelos de lenguaje ampliamente utilizados como ChatGPT y de su propio chatbot Claude 3. Esta vulnerabilidad, llamada «jailbreaking de múltiples disparos«, aprovecha el «aprendizaje en contexto», donde el [...]