En el panorama de la inteligencia artificial, que evoluciona rápidamente, Bren Worth, director de tecnología y cofundador de Substrate AI y SubGen AI. Con una carrera dedicada a los avances pioneros en IA, Worth se ha centrado en el desarrollo ético de la IA, la resolución de problemas complejos y la creación de aplicaciones innovadoras en diversos campos. Su reciente trabajo en proyectos como CoAutoGenius y Serenity Star AI, junto con una sólida cartera de patentes concedidas y pendientes, subraya un firme compromiso de ampliar los límites de la tecnología de IA y sus aplicaciones prácticas.
Innovaciones en Substrate AI: una mezcla de ética y tecnología
Desde que cofundó Substrate AI en España en 2016, Worth ha sido fundamental para dirigir a la empresa hacia el desarrollo de soluciones innovadoras para varios sectores verticales, como Agritech, AgTech, Recursos Humanos, Aprendizaje Continuo de Empleados, Comercio Financiero y Reclutamiento. Su papel como arquitecto principal en el transformador proyecto CoAutoGPT ejemplifica su capacidad para integrar herramientas avanzadas para la escritura de código, la implementación y la creación de productos con una arquitectura de agente colaborativo humano. Este proyecto, que hace hincapié en el desarrollo ético de la IA y los sistemas de memoria de trabajo inspirados en la biología, representa un avance significativo en la ejecución de proyectos complejos.
Otro sello distintivo de la permanencia de Worth en Substrate AI es el desarrollo de agentes de IA Serenity Star, donde encabezó el diseño y la implementación de un innovador agente LLM inspirado en la cognición. Las capacidades de este agente en el razonamiento multimodal, la moderación del comportamiento ético y el aprendizaje continuo adaptativo integran ideas de vanguardia. Los logros de Worth en el desarrollo de un marco de evaluación de riesgos, el aprendizaje de valores intermodales y un algoritmo de evaluación de contenido ACA (Evaluación, Afrontamiento y Adaptación) proporcionarán un avance material en la dirección de una IA potente pero segura.
SubGen AI: una nueva aventura en IA generativa
Con SubGen AI, Substrate AI se aventura en el ámbito de la tecnología de IA generativa, centrándose en la creación, implementación y gestión de productos SAAS basados en IA generativa para clientes empresariales y gubernamentales. La línea de productos Serentity Star, que incluye LLM personalizados en las instalaciones, AI Hub para administrar e implementar servicios de IA generativa con su agente avanzado Meta-Control e Instructor, y el agente de razonamiento multimodal avanzado Serenity*, subrayan el compromiso de SubGen AI con soluciones de IA seguras y rentables.
El papel de Bren Worth en Substrate AI, particularmente en el desarrollo de Serenity Star de SubGen AI y otros productos de IA, lo posiciona como una figura fundamental en la configuración de la trayectoria de los sistemas de IA éticos y avanzados. Sus contribuciones reflejan un profundo compromiso con la integración de la tecnología de vanguardia con los principios éticos, asegurando que las aplicaciones de IA sean innovadoras y responsables. Profundicemos en su papel y el impacto de su trabajo en Serenity Star AI, Meta-control y otras iniciativas bajo SubGen AI.
Una inmersión más profunda en la tecnología
Serenity Star AI: Agentes pioneros inspirados en la cognición
Serenity Star AI representa un paso adelante concreto en el desarrollo de la IA, incorporando un enfoque inspirado en la cognición para los Grandes Modelos de Lenguaje (LLM). Nuestro proyecto combina estrategias de control basadas en el ser humano y razonamiento multimodal y un novedoso sistema de memoria de abstracción temporal y espacial, lo que significa que puede procesar e integrar información de diversas fuentes y modalidades (por ejemplo, texto, imágenes, datos) para tomar decisiones o generar respuestas. Esta capacidad es crucial para la resolución de problemas complejos en escenarios del mundo real donde la información viene en diversos formatos y requiere un razonamiento abstracto y de varios pasos.
El agente Serenity Star está diseñado para sortear dilemas éticos y moderar su comportamiento en consecuencia para resolver problemas complejos. El proyecto ha desarrollado algoritmos avanzados para la evaluación de riesgos, el aprendizaje de valores intermodales y la adecuación de contenidos. Estos componentes son cruciales para garantizar que las acciones y sugerencias de la IA se alineen con los valores humanos y las normas éticas.
Además, el agente de IA Serenity Star incluye el desarrollo de un sistema de memoria avanzado que combina la abstracción temporal y espacial, lo que permite a la IA comprender y razonar sobre eventos a lo largo del tiempo y el espacio. Esta característica, combinada con la información de identificación personal (PII) automática y el reemplazo de datos privados, garantiza que la IA respete la privacidad del usuario y cumpla con las regulaciones de protección de datos. Aprovechando el avanzado sistema de memoria, el agente Serenity Star puede realizar un razonamiento de varios pasos y capturar y manipular el mundo de forma abstracta, ofreciéndole capacidades sin precedentes para la planificación y el razonamiento.
Metacontrol: protección contra los riesgos de la IA
El sistema Meta-control es otra tecnología de alto valor para SubGen AI. Este servicio opera en el núcleo de AI Hub, supervisando el uso adecuado y la aplicación segura de los productos basados en LLM en toda la empresa. El metacontrol puede compararse con un antivirus adaptativo para tecnologías de IA, donde las amenazas incluyen no solo riesgos de seguridad, sino también el uso indebido y la explotación del vasto acceso a los datos de los LLM.
El enfoque de Worth en el metacontrol subraya su compromiso de mitigar los riesgos significativos asociados con las tecnologías LLM, como las alucinaciones, la fuga de datos y el comportamiento incorrecto. Al hacer cumplir las políticas y el cumplimiento normativo, Meta-control ayuda a garantizar que los LLM operen dentro de los límites éticos, lo que mejora la confianza y la fiabilidad en las aplicaciones de IA.
Agente instructor: Mejora de la integridad del sistema de IA
El agente Instructor, una tecnología innovadora bajo el liderazgo de Worth, automatiza las pruebas de los sistemas LLM para garantizar su seguridad y confiabilidad. Este agente crea personas virtuales que simulan usuarios externos que intentan aprovechar las vulnerabilidades del sistema. A través de este proceso, el agente instructor evalúa la eficacia del metacontrol en la defensa contra el uso inseguro o poco ético, proporcionando una puntuación de calidad que genera confianza en la integridad de los sistemas de IA.
Este enfoque no solo fortalece la seguridad y el funcionamiento ético de las aplicaciones de IA, sino que también genera datos sintéticos que se pueden utilizar para entrenar y refinar aún más los modelos de IA, mejorando su rendimiento y confiabilidad.
¡Mucho más trabajo por hacer!
El papel de Bren Worth en el desarrollo de Serenity Star AI, Meta-control y el agente instructor en SubGen AI ilustra un enfoque visionario para el desarrollo de la IA. Al priorizar las consideraciones éticas, las capacidades de razonamiento multimodal y los sólidos mecanismos de seguridad, Worth no solo está avanzando en las capacidades tecnológicas de los sistemas de IA, sino que también garantiza que funcionen de manera responsable, ética y alineada con los valores humanos. Su trabajo establece un punto de referencia para el futuro del desarrollo de la IA, donde la innovación va de la mano con la responsabilidad ética y la seguridad del usuario.
ES 
EN 
FR 