Àlex GuardiolaNuevoPregunta a tus documentos

Cómo trabajo la seguridad

Lo que hago antes de tocar tus datos y tus sistemas. Al final de la página tienes las pruebas.

Tus datos se quedan donde tú decidas

Antes de automatizar nada te pregunto dónde tienen que vivir tus datos. Hay tres opciones y la elegimos juntos:

  • Dentro de tu Microsoft 365

    Si ya lo pagáis, los flujos corren en vuestro propio tenant. Los datos no salen de vuestra cuenta.

  • En un servidor a vuestro nombre, en la UE

    Si no tenéis Microsoft 365, lo monto en un servidor que contratáis vosotros. Si un día dejamos de trabajar juntos, todo sigue siendo vuestro.

  • En vuestra oficina

    Para datos de salud o nóminas, un equipo local con un modelo de IA que no sale de allí.

La IA no se inventa nada que no pueda demostrar

  • Cada dato que extrae la IA viene con la frase exacta del documento de la que sale, y el código comprueba que esa frase existe. Si no, el dato se descarta.
  • Los importes, las horas y los precios nunca los pone la IA: los calcula un programa con reglas fijas.
  • Un documento o un mensaje puede intentar dar órdenes ("ignora tus instrucciones..."). Eso se trata como texto, nunca como una orden, y lo pruebo antes de entregar.
  • Lo que la IA no puede responder con seguridad pasa a una persona.

Por defecto, solo mirar

Los sistemas que conecto a vuestros programas empiezan con permisos de solo lectura. Cualquier acción que cambie algo (enviar, borrar, pagar) pide la aprobación de una persona. Es como funcionan mis propios sistemas: mi asistente por voz puede consultarlo todo y no puede cambiar nada sin que yo lo confirme en el móvil.

Lo básico, siempre

  • Contrato de encargado del tratamiento (RGPD) antes de tocar datos.
  • Cuentas de servicio propias, con los permisos mínimos.
  • Contraseñas y claves en un gestor de secretos, nunca dentro del código.
  • Registros sin datos personales.
  • Copias de seguridad con una restauración probada.
  • Tope de gasto en los servicios de IA.
  • Una revisión independiente antes de entregar.

Si grabamos una reunión

Solo con vuestro permiso, dicho al empezar. La transcripción se hace en mi equipo, sin servicios en la nube, y el audio se borra en cuanto está transcrito.

Pruebas

Cada punto de esta página sale de algo que ya funciona:

¿Tienes una pregunta sobre seguridad que no está aquí? Escríbeme