1
 

Predicciones analíticas: innovaciones para una IA ética

No es casualidad que gran parte de mi trabajo reciente en patentes sea la base de los cimientos de lo que predigo será el desarrollo más grande de la industria tecnológica en el 2019: la IA ética.

Por: Scott Zoldi, Director Ejecutivo de Analítica en FICO

Sin lugar a dudas, el 2018 fue el Año de la Inteligencia Artificial —“31 sabores de IA”. Para mí en lo personal, el 2018 fue un periodo de intensa creatividad en torno a la IA. Mi puesto de Director Ejecutivo de Analítica es ideal porque me permite cumplir mi deseo de crear tecnologías nuevas y emocionantes para resolver los problemas reales que enfrentan los clientes de FICO. El 2018 fue el año perfecto para hacerlo, ya que la IA y el aprendizaje automático maduraron de curiosidades mágicas a potentes herramientas de negocio.

Conforme el 2018 llegaba a su fin, me encuentraba cerrando el proceso de presentar mi séptima y octava solicitud de patente del año en Estados Unidos. Con esto, el total de patentes presentadas durante mi carrera asciende a 95: 45 otorgadas y 50 pendientes. Como lo dice en broma uno de mis colegas, estoy en el último sprint de “la carrera hacia las 100 patentes”.

No es casualidad que gran parte de mi trabajo reciente en patentes sea la base de los cimientos de lo que predigo será el desarrollo más grande de la industria tecnológica en el 2019: la IA ética. Como científico de datos y miembro de la comunidad analítica global, desarrollar tecnología analítica ética es muy importante para mí, debido especialmente a que mi trabajo consiste en atender a los clientes de FICO.

Deprisa y corriendo para contribuir a la IA ética

A continuación, describo cómo se desarrolla mi trabajo reciente en patentes, para promover la adopción de una IA ética en la industria.
Blockchain. A pesar de que Bitcoin, la instancia más famosa de una ¨cadena de bloques¨, tuvo un mal año, esta tecnología subyacente es sumamente popular en las nuevas aplicaciones de negocio como el alquiler de autos. En 2018 me centré en la cadena de bloques y presenté una solicitud de patente (16/128,359 EUA) en torno al uso de la cadena de bloques para asegurar que todas las decisiones tomadas sobre un modelo de IA se registraran y auditaran. Dichas decisiones incluyen las variables y el diseño del modelo, los datos utilizados y la selección de funciones; así como la capacidad de ver sus funciones latentes, y todos los científicos que desarrollaron partes de los conjuntos de variables y los pesos del modelo. La suma y registro total de estas decisiones, brinda la visibilidad requerida para gobernar de manera eficaz los modelos y complacer a los reguladores.

Funciones latentes explicables. Otra patente (15/985,130 EUA) aborda la inmadurez de la industria de IA en general, la cual es dolorosamente evidente cuando la conversación se torna en una explicación de los algoritmos de aprendizaje automático.

En concreto, cuando los científicos de datos afirman que el aprendizaje profundo es una tecnología que cambia las reglas del juego, las preguntas sobre los detalles de los patrones aprendidos en una red neuronal superficial o profunda casi siempre se responden con un silencio perplejo, incluso en las compañías más grandes. Esto es completamente inaceptable para cualquiera que debe hablar con un cliente sobre el modelo o presentárselo a un regulador. Basta considerar GDPR, que debe cumplirse en muchos de los negocios de nuestros clientes para entender qué responder, “Este… no sé” es inaceptable.

Mi patente de funciones latentes explicables “detona” un modelo de red neuronal en un modelo multicapa conectado dispersamente, tal que cada nodo oculto se puede explicar de manera concisa. Hace poco hablé sobre las funciones latentes explicables en un taller de innovación en la Reserva Federal de EUA, y el público mostró gran entusiasmo por integrar transparencia en los modelos en esta forma. Además, esta capacidad ya se integró en FICO Analytics Workbench, lo que ha permitido a los clientes de FICO construir estos modelos.

Eliminación de imparcialidad. Este tema de la IA ética es un poco más extenso. Busca restringir el tipo de datos que se introduciría en un modelo para evitar la imparcialidad —una piedra angular conceptual de la IA ética—. También he presentado dos patentes (15/981,755 EUA y 15/819,338 EUA) para permitir decidir con mayor facilidad si los datos específicos y las variables derivadas son aptos o no para un modelo. Por ejemplo, un modelo que considere la altura de una persona sería útil para calcular el costo de producción de un par de pantalones de mezclilla (que por lo general tienen el mismo precio, independientemente del largo de la entrepierna), pero no el potencial de ingresos del solicitante de un préstamo ni su capacidad crediticia.

Todas estas patentes caben a la perfección dentro del concepto de adopción regulativa de la IA ética, que se acelerará drásticamente en el 2019 conforme los cuerpos reguladores impongan el requisito de entender y explicar los modelos de IA destinados a impulsar las decisiones financieras actuales, incluyendo los miles de millones de decisiones impulsadas por todos los productos de FICO: desde la plataforma antifraude líder en la industria FICO Falcon Platform hasta nuestras soluciones de AML y ciberseguridad más recientes.

Adolfo Manaure

Entusiasta seguidor de la tecnología y las innovaciones que cambian el mundo. Director Editorial y COO en The HAP Group.