En el día de ayer hablábamos de rumores sobre las medidas de Apple para proteger a los más pequeños. Ahora estos rumores han pasado a ser una realidad al ser anunciadas las nuevas funcionalidades por la propia Apple. Pero aunque obviamente la mejora en la seguridad de los más pequeños es una buena noticia, estas son medidas que están recibiendo muchas críticas por los usos que se les puede dar.
Escaneo de fotos en busca del abuso infantil
Una de las principales funcionalidades que se van a aplicar está relacionada con la posibilidad de detectar imágenes que incluyan material de abuso sexual infantil. Esto se hará a través de diferentes algoritmos que serán capaces de detectar estas imágenes de manera inteligente. Es importante destacar que únicamente se hará el rastreo en aquellas imágenes que están compatidas con iCloud. A esto se suma también la importancia que ha dado Apple a que el sistema está diseñado teniendo en cuenta la privacidad de los usuarios. La tecnología hash que se va a utilizar en este caso es conocida como NeuralHash que analiza una imagen y la convierte en un número único.
Hay que tener en cuenta que antes de subir una imagen a iCloud, el dispositivo analizará la imagen realizando un proceso de comparación. Se dispondrá de una base de datos con varios hashes que tienen contenido ilegal. En el caso de que la comparación arroje un resultado positivo se generará un ticket de seguridad con todos estos datos que se cargará a iCloud junto a la imagen. A partir de aquí Apple revisará manualmente la coincidencia para no dejar este trabajo en la IA. En el caso de que esta revisión manual también resulte positiva se pondrá en conocimiento de las autoridades competentes. Y aunque se vea tan sencillo en estos simples procesos, la propia Apple en documentos técnicos ha mostado la complejidad que tiene este sistema.
En un primer momento Apple ha afirmado que esta será una funcionalidad que llegará con iOS 15 y iPadOS 15 pero de manera limitada. Con esto se quiere decir que no estará disponible en todos los países. El primer país en el que estará disponible es EEUU y la compañía cree que con el paso del tiempo podrá terminar expandiéndolo. Esto es algo lógico ya que se debe realizar una coordinación con las autoridades locales, y también adaptarlo a las normativas. En el caso de Europa la legislación en materia de privacidad es mucho más extensa. Esto se puede ver claramente en la seguridad que tiene la App Store para evitar cualquier tipo de amenaza a los usuarios.
Mensajes será más seguro
Más allá de poder detectar el material ilegal que haya en la galería fotográfica, Apple también introducirá nuevas funciones en Mensajes. Esta es la vía de comunicación nativa del ecosistema de la compañía, y los menores al utilizarla pueden estar en riesgo al poder ponerse en contacto con ellos personas no deseadas como pedófilos. Las funciones estarán integradas en el control parental del iPhone o el iPad, de la misma forma que también se puede configurar el Mac utilizando los controles parentales. Ya en todo momento el sistema operativo será capaz de analizar el material multimedia que se recibe en el servicio. En el caso de que se detecte alguna imagen sexualmente explícita esta se eliminará automáticamente.
Esto se suma también a que cuando un niño intente ver una imagen sensible se enviará una notificación a los padres. Esto se dará sobre todo en el caso de que sea un niño pequeño. En el caso de que tenga una mayor edad, únicamente se avisará antes de abrir la imagen que contiene contenido hiriente o sexualemnte explícito. Estas sin duda son funcionalidades realmente interesantes a tener en cuenta para el control parental.
El problema radical principalmente en los problemas de privacidad. Son muchos los expertos de seguridad que creen que esta es una tencología que puede terminar utilizándose con otros fines. Estos creen que se va a terminar instaurando un sistema de vigilancia. Aunque en un primer momento se enfocará a los más pequeños cabe la posibilidad de que se aplique también en el rastreo de los iPhone en busca de activistas políticos.
