El concepto de caja negra no solo está relacionado con los aviones y tiene un significado curioso y relevante si se asocia al sector de la inteligencia artificial.
El concepto de “caja negra” seguro que ya lo has escuchado millones de veces. Es probable que lo asocies a ese dispositivo que registra y almacena parámetros de aeronaves —aunque no es negro—, pero también tiene un curioso y quizás desconocido significado asociado a la inteligencia artificial.
En este contexto se refiere a una herramienta o modelo, como GPT-4, cuyo Su funcionamiento interno no es transparente ni comprensible para los que están fuera, es decir, usuarios o expertos que no han estado involucrados en su desarrollo.
La relevancia de las cajas negras en la inteligencia artificial es que muchos modelos de aprendizaje automático, como las redes neuronales profundas, pueden ser extremadamente complejos, con millones o incluso miles de millones de parámetros.
Estos modelos son capaces de aprender de grandes conjuntos de datos, encontrar patrones complejos y tomar decisiones sofisticadas, pero muchas veces son incomprensibles para el resto porque están ocultos. Aunque esto pueda sonar extraño, la verdad es que hay una muy buena razón para hacerlo.
Usted también desarrollaría un modelo de IA haciendo uso de este concepto
En algunos casos, existen claras ventajas o razones muy lógicas para considerar un modelo como una «caja negra» en inteligencia artificial.
Muchos se destacan, pero quizás el más obvio es el que se refiere a propiedad intelectual. A veces, el conocimiento interno y exclusivo de un modelo puede considerarse un activo valioso y confidencial para una empresa. Mantener ciertos detalles del modelo en forma de «caja negra» puede ayudar a proteger la propiedad intelectual asociada y evitar la divulgación de información confidencial.
Por otro lado, esto también impide que otras empresas tomen como referencia los datos con los que se ha entrenado el modelo o cuántos parámetros tiene. OpenAI, por ejemplo, es muy cauteloso a la hora de ofrecer toda la información y parámetros utilizados para entrenar GPT-4 en este caso.
Prefieren no decirlo para evitar que otras empresas como Google, que también desarrollan grandes modelos lingüísticos, tengan un referente al que batir.
Eso sí, con herramientas como ChatGPT, entre otras, ya se ha demostrado que la cantidad de parámetros no lo es todo, pero eso la arquitectura, la cantidad y calidad de los datos también juegan un papel importante en la formación y es ahí donde radica la exclusividad y la necesidad de mantenerla oculta.
Si bien muchas empresas abogan por la transparencia con el objetivo de continuar el progreso, Es importante reconocer que considerar un modelo como una «caja negra»« No es negativo en todas las situaciones.
Con información de Telam, Reuters y AP
