COGNITIVpela Software in a Box

COGNITIV / Servidores

O servidor certo para a sua IA

O COGNITIV é instalado em servidores Lenovo ThinkSystem e ThinkEdge, na sua sala de servidores ou no seu centro de dados. Escolhemos o modelo de acordo com a IA que vai usar, quantas pessoas a usarão em simultâneo e onde será instalado.

Edge · 1U Inferência · 2U Inferência · 3U IA generativa · 5U IA generativa · 8U

Como escolhemos o seu servidor

Três perguntas decidem o tamanho. Respondemos-lhes consigo no diagnóstico.

Que modelo de IA vai usar?

Um modelo compacto cabe numa ou duas GPU. Os grandes modelos generativos precisam de servidores de oito GPU com alta velocidade entre elas.

Quantas pessoas em simultâneo?

Um departamento ou toda a empresa. O número de consultas simultâneas determina quantas GPU e quanta memória são necessárias.

Onde será instalado?

Centro de dados, sala técnica, delegação ou fábrica. Fora do centro de dados, convém um equipamento edge compacto e silencioso.

Do diagnóstico ao serviço gerido

Acompanhamo-lo em quatro passos, desde o primeiro caso de utilização até à operação diária.

  1. Diagnóstico COGNITIV

    Antes de começar

    Avaliamos dados, processos, segurança e equipa para escolher os casos de utilização com mais impacto e dimensionar o servidor.

  2. Piloto COGNITIV

    Cerca de 3 meses

    Um caso de utilização real a funcionar no seu servidor, com os seus dados, pronto para passar a produção.

  3. Implementação e expansão

    Por fases

    Alargamos a mais departamentos e agentes, adaptados aos seus fluxos de trabalho, com um único interlocutor.

  4. Serviço gerido

    Em operação

    Monitorização, atualizações, ajuste de modelos e suporte para que a plataforma se mantenha segura e atualizada.

Tecnologia Lenovo incluída

GPU NVIDIA

GPU NVIDIA RTX PRO, HGX H200 e B200, com NVLink nos modelos de alta densidade.

Refrigeração Neptune

Refrigeração líquida de circuito fechado nos modelos de oito GPU: menos consumo e menos ruído, sem obras na sua sala.

Gestão XClarity

Monitorização, atualização e aprovisionamento do servidor durante todo o seu ciclo de vida, sob o seu controlo.

Vamos dimensionar o seu servidor de IA

Conte-nos o seu caso e propomos-lhe o modelo e a configuração.

Falar com um especialista