«¿Quizás Apple Intelligence no debería marcar los correos electrónicos fraudulentos como “Prioritarios” con un resumen que diga que lo son por motivos de seguridad?», comenta irónicamente @howard.fm en Bluesky. La función de resumen de mensajes es una de las características clave de Apple Intelligence.
Uno de los ejemplos que pone Apple de la utilidad de esta herramienta es la de resumir una conversación sobre una quedada con amigos en una frase como «brunch después del fútbol el sábado; se sugiere restaurante o anfitrión en casa», que informe al usuario en pocas palabras.
Ojo avizor frente a estafas
No obstante, si Apple Intelligence no es capaz de distinguir entre comunicaciones reales e intentos de estafa, algún usuario podría confiarse y no reparar en otras señales antes de caer en una estafa. En el ejemplo que pone la usuaria, Apple Intelligence marca como prioritario un correo phishing que suplanta a una entidad que solicita un consentimiento sobre gestión de datos.
De forma similar, el usuario @colin.hoagie.fun señala en la misma red social: «¿Te imaginas qué pasaría si Apple Intelligence realmente marcara los mensajes fraudulentos en lugar de resumirlos de manera útil?». A este usuario le ha ocurrido lo mismo, pero con un mensaje SMS en lugar de con un email. En este caso, el SMS suplanta la identidad de la empresa de envío de paquetes USPS.
En lugar de detectar signos de fraude en este mensaje, Apple Intelligence envía una notificación con un resumen, que pide al usuario actualizar la información en menos de 24 horas para poder recibir la supuesta entrega. Además, «la reescritura de IA elimina de manera útil todas las señales gramaticales que indican que esto podría ser un fraude», tal y como advierte otro usuario.
Así, vemos que los estafadores y cibercriminales no solo pueden hacer uso de herramientas de reescritura como ChatGPT para mejorar sus emails de phishing, sino que herramientas como Apple Intelligence pueden colaborar también con ellos inadvertidamente, al colar este tipo de mensajes sin distinción. En las últimas semanas, no solo este asunto ha supuesto una polémica sobre la IA de Apple; también ha sido noticia debido a su tratamiento de fake news.
Apple Intelligence también cuela noticias falsas
El pasado mes, el medio británico BBC publicó un artículo en el que alertaba de que Apple Intelligence estaba generando resúmenes falsos de titulares de actualidad, provocando la difusión de noticias falsas, además de dañar la reputación de la BBC haciendo creer que es este medio el que emitía la información. La BBC recoge varios casos, entre ellos, una notificación en la que el resumen de IA indica que Luigi Mangione, el joven detenido por el asesinato de Brian Thompson en EE. UU., se ha disparado a sí mismo, y en otra, se indica que el tenista Rafa Nadal ha hecho unos comentarios sobre su sexualidad. Ambas informaciones son falsas.
Lo mismo ha ocurrido con el New York Times: Apple Intelligence lanzó una notificación en la que se decía que el primer ministro israelí, Benjamin Netanyahu, había sido detenido. Por estos motivos, la asociación británica de periodistas NUJ ha solicitado a Apple retirar esta función de sus dispositivos hasta corregir el problema.
Con todo ello, los usuarios ven las costuras y debilidades de Apple Intelligence. Pese a la precaución de Apple a la hora de lanzar su propia herramienta de IA, el tiempo de retraso con el que la han lanzado frente a competidores como ChatGPT tampoco les ha servido para pulir del todo aspectos como estos.
