En esta noticia
La carrera por el liderazgo en el ámbito de la inteligencia artificial que se da entre los gigantes tecnológicos tiene un lado oscuro, que es la recopilación de datos de los usuarios que utilizan servicios conversacionales como ChatGPT.
Esta semana, en su conferencia anual de desarrolladores, Apple realizó anuncios sobre la integración de IA en sus dispositivos, a la vez que planteó una estrategia novedosa para dar confianza a los usuarios. Sin embargo, la iniciativa también incluye un acuerdo con OpenAI, la empresa creadora de ChatGPT, para sumar su tecnología, lo que abrió nuevas polémicas y dudas sobre la privacidad de los datos.
En este sentido, Elon Musk criticó la alianza y afirmó: “Si Apple integra OpenAI a nivel del sistema operativo, los dispositivos Apple estarán prohibidos en mis empresas”. Asimismo, afirmó que “Apple no tiene idea” de lo que pasa una vez que se entreguen los datos a OpenAI.
“Los sistemas de IA como ChatGPT de OpenAI recopilan información y datos de los usuarios con diversos fines, como mejorar el rendimiento del modelo, personalización, monitoreo y seguridad o resolución de problemas. El problema principal desde la perspectiva de la privacidad y seguridad de los datos reside en que, a diferencia de lo que ingresamos para hacer una búsqueda en Google, para recibir mejores resultados necesitamos dar un nivel de detalle muy significativo, que quien controle esa información puede tener información muy sensible de nosotros”, señaló Alan Mai, especialista en ciberseguridad y CEO de Bloka.
Por su parte, Javier Lobos, gerente de Innovación y Desarrollo de CAT Technologies, indicó: “Los riesgos que puede implicar ingresar información en los asistentes de IA son: privacidad y seguridad de datos sensibles, vulnerabilidad de un chatbot que no esté bien diseñado ante ataques de hackers, mal uso de chatbots para acciones de phishing. Es clave implementar políticas de seguridad estrictas“.
Y añadió: “Nuestro consejo es jamás ingresar datos que puedan ser utilizados para un fraude o robo. Por ejemplo, datos de cuentas bancarias, claves de acceso, nombres de usuarios o identificaciones. Evitar en lo posible ingresar datos personales como nombres y apellidos, direcciones personales. Cabe aclarar que este mismo consejo aplica a cualquier plataforma digital, no solo de chats conversacionales”.
Lo distinto de Apple
Con su nueva plataforma Apple Intelligence, la compañía de Cupertino buscó, desde el vamos, dar una respuesta a la cuestión de la privacidad. La empresa afirmó que “la privacidad está en el núcleo” de su propuesta. Para eso, afirma que el procesamiento de los datos del usuario que surgen de su interacción con la IA se realiza en el mismo dispositivo, sin necesidad de recurrir a servidores externos, donde podrían quedar expuestos.
De esta manera, indicó, los dispositivos Apple estarán al tanto de la información personal pero no la “recoletarán” o llevarán fuera. Y el trabajo se podrá hacer gracias al poder de los últimos chips de la compañía, como los recientes M3 y M4.
“La principal propuesta de valor de Apple con respecto a la inteligencia artificial tiene que ver con poder correr parte de los modelos directamente en forma local en la capacidad de procesamiento del móvil y que esos datos no viajen a un servidor en la nube. En ese sentido, Apple está tratando de diferenciarse del resto mediante lo que se llama Edge Computing, la computación en el borde, que es la ejecución de la inferencia que hace la red neuronal, que ocurre en el teléfono móvil y no en un servidor en la nube”, explicó el experto Gustavo Guaragna CEO de Snoop Consulting.
Guaragna también opinó que “Elon Musk, al hacer estos comentarios casi inmediatamente, lo que está haciendo es una suerte de marketing parásito, una estrategia muy interesante, en la cual él se asegura de que aun cuando otros comienzan la narrativa él se puede colar por encima de ella”.
La IA, otra vez en la nube
No obstante, con sus anuncios Apple también abrió una puerta a la controversia, al admitir que también podrá utilizar servidores en la nube para IA.
“Hay momentos en los que se necesitan modelos de IA que son más grandes de lo que entra en el bolsillo hoy. Los servidores pueden ayudar con esto”, indicó la empresa. Y detalló: “Queremos extender la privacidad y seguridad de tu iPhone en la nube para desbloquear más inteligencia. Por eso creamos Private Cloud Compute. Esto le permite a Apple Intelligence escalar su capacidad computacional y apoyarse en modelos más complejos en servidores para responder a requerimientos más exigentes a la vez que se protege la privacidad”.
Para el experto Alan Mai de Bloka, “esta alianza puede ser revolucionaria, pero Apple ahora tendrá que ser extremadamente cuidadosa para garantizar que la integración de ChatGPT sea segura y proteja la privacidad de los usuarios”, la vez que evaluó que “es un gran paso adelante, pero uno que debe darse con precaución”.
Mientras que Javier Lobos, de CAT, evaluó que “existe una preocupación con fundamento respecto al uso de datos personales, ya que ChatGPT tiene problemas comprobados de cumplimiento de las normativas que regulan los datos personales y sensibles de las personas (por ejemplo, la normativa europea de protección de datos o RGDP). Teniendo en cuenta esto, entiendo que es un aspecto que deberá ser aclarado por las partes involucradas en esta alianza en las próximas semanas”.
Fuente El Cronista
