Las organizaciones de salud —como todas las empresas— pueden beneficiarse de la inteligencia artificial generativa para mejorar servicios, productividad y eficiencia operativa. De hecho, se prevé que el uso de la IA generativa aumente mucho en los próximos años. En consecuencia, se requieren nuevos recursos de TIC para aprovecharla y explotarla adecuadamente. Entre ellos se cuenta la recién presentada plataforma Nutanix GPT-in-a-Box. Dicha plataforma se enfoca en la innovación en inteligencia artificial (IA) y aprendizaje automático (machine learning).
Entre los usos potenciales de la IA generativa en la atención sanitaria se encuentra el diseño de tratamientos personalizados para los pacientes. También tiene aplicaciones en la automatización de tareas, como la transcripción de registros médicos y la generación de informes.
Nutanix GPT-in-a-Box es una plataforma lista para IA definida por software. Incluye servicios para dimensionar y configurar la infraestructura adecuada de hardware y software. La plataforma está lista para ajustar y ejecutar Generative Pre-trained Transformer (GPT), incluidos modelos de lenguaje grande (LLM) en el borde o en centros de datos locales.
La IA generativa optimiza procesos como la transcripción de documentos internos, la búsqueda de alta velocidad de contenido multimedia y el análisis automatizado. Sin embargo, existen preocupaciones crecientes sobre la fuga de propiedad intelectual, el cumplimiento y la privacidad. Resaltan los casos de uso que no se pueden ejecutar en nubes públicas debido a problemas de gobernanza y resguardo de datos, como ocurre con muchos de los generados en el cuidado de la salud.
Por otra parte, muchas organizaciones requieren de la plataforma de IA más eficiente para los administradores de machine learning y los científicos de datos. Sin embargo, el temor de asumir grandes costos de inversión en IA ha paralizado muchas estrategias.
IA potenciada con Nutanix GPT-in-a-Box
«A medida que los clientes buscan diseñar e implementar soluciones de IA generativa luchan por equilibrar la experiencia necesaria para instalar, configurar y ejecutar estas cargas de trabajo con preocupaciones sobre la seguridad de sus datos y la protección de la propiedad intelectual. Esto, mientras controlan los costos», expone Greg Macatee, analista sénior de investigación, grupo de tecnologías, plataformas y sistemas de infraestructura de IDC. «Nutanix GPT-in-a-Box ofrece a los clientes una solución llave en mano y fácil de usar para aprovechar la IA».
La solución Nutanix GPT-in-a-Box ofrece una infraestructura de IA controlada por el cliente, lista para usar en el centro de datos principal o en el borde. Les permite ejecutar y ajustar modelos de IA y GPT mientras mantienen el control sobre sus datos.
«Ayudar a los clientes a enfrentar los mayores desafíos que enfrentan en TIC es el núcleo de lo que hacemos. Va desde administrar la creciente complejidad de múltiples nubes, hasta los desafíos de protección de datos y la adopción de soluciones de IA generativa. Todo mientras se mantiene el control sobre la privacidad y el cumplimiento de los datos», señala Fernando Zambrana, director de ventas en Nutanix México.
Escalabilidad, rendimiento y resiliencia
La solución Nutanix GPT-in-a-Box incluye:
●La plataforma Cloud Infrastructure, con las soluciones Files Storage y Objects Storage, el hypervisor AHV y Kubernetes. Además, aceleración NVIDIA GPU, que se puede dimensionar para una escala grande o pequeña.
●Servicios para ayudar a los clientes a dimensionar su clúster e implementar una pila con los principales marcos de aprendizaje profundo y MLOps de código abierto, servidor de inferencia y un conjunto seleccionado de modelos de lenguaje grande como Llama2, Falcon y MPT.
●Capacidad para que los científicos de datos y los administradores de machine learning consuman inmediatamente estos modelos con su elección de aplicaciones, interfaz de usuario de terminal mejorada o CLI estándar.
●La plataforma también se puede aprovechar para ejecutar otros modelos de GPT. Igualmente, para ajustar dichos modelos aprovechando los datos internos, alojados en los servicios de almacenamiento de objetos o archivos incluidos.
Nutanix GPT-in-a-Box se basa en la escalabilidad, el rendimiento, la resiliencia y la facilidad de uso de Nutanix Cloud Platform. La experiencia de la firma con infraestructura escalable en casos de uso de nube pública, centro de datos y perímetro ofrece el entorno ideal para ajustar y ejecutar aplicaciones de IA.
