Apresentação
Esta formação proporciona aos participantes os conhecimentos e competências necessários para compreender, planear, implementar e operar soluções de Inteligência Artificial (IA) em infraestruturas de Data Center baseadas em tecnologias Cisco.
Ao longo do curso, os participantes irão explorar os fundamentos da Inteligência Artificial, Machine Learning, Deep Learning e IA Generativa, compreendendo os requisitos tecnológicos associados à implementação de aplicações e modelos de IA em ambientes empresariais.
A formação aborda as principais arquiteturas de infraestrutura para IA, incluindo redes de elevado desempenho, sistemas de computação especializados, soluções de armazenamento, virtualização e mecanismos de gestão e monitorização de recursos.
São ainda exploradas tecnologias e protocolos fundamentais para o funcionamento de infraestruturas de IA, nomeadamente RDMA, RoCE, mecanismos de Quality of Service (QoS), redes Ethernet de elevado desempenho e soluções Cisco Nexus.
Através de uma abordagem que combina conhecimentos teóricos com exercícios práticos, os participantes irão desenvolver competências na configuração de infraestruturas de IA, na utilização de ferramentas como o Jupyter Notebook e na implementação de modelos de linguagem de código aberto, incluindo soluções baseadas em Retrieval-Augmented Generation (RAG).
Enquadramento
A crescente adoção da Inteligência Artificial pelas organizações tem vindo a transformar os requisitos tecnológicos das infraestruturas de Data Center, exigindo soluções capazes de suportar elevados volumes de processamento, armazenamento e transferência de dados.
As aplicações de Machine Learning, Deep Learning e IA Generativa dependem de recursos computacionais especializados e de arquiteturas de rede que garantam baixa latência, elevada largura de banda e comunicação eficiente entre os diferentes componentes da infraestrutura.
Neste contexto, as organizações enfrentam novos desafios relacionados com a implementação de clusters de IA, a gestão de recursos de computação, a otimização do desempenho das redes e a disponibilização de soluções tecnológicas escaláveis, seguras e sustentáveis.
A Cisco disponibiliza um conjunto de tecnologias que permitem responder a estas necessidades, através de soluções de networking, computação e gestão de infraestruturas de Data Center preparadas para suportar workloads de Inteligência Artificial.
Estas soluções incluem arquiteturas de rede de elevado desempenho, mecanismos avançados de gestão de tráfego, tecnologias de automação e ferramentas de monitorização que permitem melhorar a eficiência operacional e otimizar a utilização dos recursos tecnológicos.
Adicionalmente, a implementação de soluções de IA exige conhecimentos sobre governação, segurança, interoperabilidade, sustentabilidade e gestão de custos, assegurando que as infraestruturas são concebidas de acordo com os requisitos técnicos e operacionais das organizações.
Neste enquadramento, a formação DCAIE permite aos profissionais de tecnologias de informação compreender as principais exigências das infraestruturas de IA e adquirir competências fundamentais para planear, implementar, migrar e operar soluções de Inteligência Artificial em ambientes Cisco Data Center.
Destinatários
Esta formação destina-se a profissionais de tecnologias de informação envolvidos no desenho, implementação, administração e operação de infraestruturas de Data Center e soluções de Inteligência Artificial, nomeadamente:
- Arquitetos de Redes;
- Engenheiros de Redes;
- Administradores de Redes;
- Engenheiros de Sistemas;
- Engenheiros de Data Center;
- Administradores de Servidores;
- Administradores de Armazenamento;
- Arquitetos de Soluções Técnicas;
- Consultores de Sistemas;
- Engenheiros de Campo;
- Gestores de Redes;
- Gestores de Projetos Tecnológicos;
- Gestores de Programas de Transformação Tecnológica;
- Consultores e Integradores de Soluções Cisco;
- Profissionais responsáveis pela implementação e operação de infraestruturas de Inteligência Artificial.
Pré-requisitos
Não existem pré-requisitos formais obrigatórios para a frequência desta formação, uma vez que os conteúdos são apresentados numa abordagem progressiva, desde conceitos introdutórios até conhecimentos de nível intermédio.
No entanto, recomenda-se que os participantes possuam:
- Conhecimentos fundamentais de redes e infraestruturas de Data Center;
- Familiaridade com a arquitetura e operação de soluções Cisco Unified Computing System (UCS);
- Conhecimentos básicos sobre o portefólio de switches Cisco Nexus;
- Compreensão das principais tecnologias de computação e armazenamento utilizadas em Data Centers;
- Conhecimentos introdutórios de administração de infraestruturas de rede.
Para aquisição ou consolidação destes conhecimentos, são recomendadas as seguintes formações:
- Introducing Cisco Unified Computing Systems (DCIUCS);
- Implementing Cisco NX-OS Switches and Fabrics in the Data Center (DCNX);
- Implementing and Operating Cisco Data Center Core Technologies (DCCOR).
Objectivo Geral
Dotar os participantes dos conhecimentos e competências necessários para compreender, planear, implementar, migrar e operar soluções de Inteligência Artificial em infraestruturas de Data Center Cisco, aplicando princípios de arquitetura de redes de elevado desempenho, computação especializada, armazenamento, virtualização, segurança e automação, de forma a garantir a eficiência, escalabilidade, disponibilidade e sustentabilidade dos ambientes tecnológicos que suportam aplicações e workloads de IA.
Objectivos Específicos
No final da formação, os participantes deverão ser capazes de:
- Compreender os principais conceitos de Inteligência Artificial, Machine Learning e Deep Learning;
- Identificar as diferenças entre modelos tradicionais de IA e soluções de IA Generativa;
- Reconhecer os principais casos de utilização da Inteligência Artificial em ambientes empresariais;
- Compreender a arquitetura e os componentes fundamentais de clusters de IA e Machine Learning;
- Identificar os processos de obtenção, adaptação, otimização e utilização de modelos de Machine Learning;
- Utilizar Jupyter Notebook e ferramentas de IA Generativa para apoiar tarefas de automação e desenvolvimento;
- Compreender os principais componentes necessários à implementação de infraestruturas de IA;
- Avaliar estratégias de distribuição de workloads e interoperabilidade entre sistemas;
- Identificar políticas, normas e princípios de governação aplicáveis a soluções de Inteligência Artificial;
- Compreender os princípios de sustentabilidade ambiental e económica das infraestruturas de IA;
- Aplicar boas práticas no desenho de infraestruturas de IA, considerando desempenho, eficiência e custos;
- Identificar os principais desafios das redes de comunicação que suportam aplicações de IA e Machine Learning;
- Compreender a importância das tecnologias de conectividade ótica e de cobre em ambientes de elevado desempenho;
- Analisar diferentes modelos de conectividade e arquiteturas de rede para aplicações de IA;
- Compreender os principais protocolos de rede utilizados em ambientes de processamento distribuído;
- Planear a migração de workloads para infraestruturas de rede dedicadas à Inteligência Artificial;
- Compreender o funcionamento dos protocolos Remote Direct Memory Access (RDMA) e RDMA over Converged Ethernet (RoCE);
- Identificar as características das arquiteturas Ethernet de elevado desempenho;
- Aplicar conceitos de Quality of Service (QoS) na otimização do tráfego de redes de IA;
- Compreender os mecanismos de Priority Flow Control (PFC) e Explicit Congestion Notification (ECN);
- Utilizar funcionalidades do Cisco Nexus Dashboard Insights para monitorizar tráfego e identificar situações de congestionamento;
- Compreender os processos de preparação e gestão de dados utilizados em soluções de IA;
- Identificar os principais requisitos de hardware especializado para processamento de workloads de IA;
- Avaliar diferentes soluções de computação, virtualização e armazenamento;
- Compreender os procedimentos de implementação de clusters de IA;
- Utilizar o Cisco Nexus Dashboard Fabric Controller (NDFC) na configuração de redes otimizadas para workloads de IA;
- Implementar e utilizar modelos de linguagem de código aberto em ambientes locais;
- Aplicar técnicas de Retrieval-Augmented Generation (RAG) em tarefas de engenharia e administração de redes.
Programa
Módulo 1 – Fundamentos de Inteligência Artificial e Ferramentas de Desenvolvimento
Fundamentos de Inteligência Artificial (Fundamentals of AI)
- Introdução aos principais conceitos de Inteligência Artificial;
- Diferenças entre IA tradicional, Machine Learning e Deep Learning;
- Características e aplicações das diferentes abordagens de IA;
- Relação entre modelos de IA e requisitos de infraestrutura tecnológica.
Inteligência Artificial Generativa (Generative AI)
- Introdução aos conceitos de IA Generativa;
- Diferenças entre modelos tradicionais e modelos generativos;
- Características e capacidades dos modelos de IA Generativa;
- Principais desafios associados à utilização destas tecnologias;
- Evolução e tendências da IA Generativa.
Casos de Utilização de Inteligência Artificial (AI Use Cases)
- Identificação de aplicações práticas da Inteligência Artificial;
- Utilização de IA na gestão e administração de redes;
- Automação inteligente de processos operacionais;
- Análise preditiva e identificação de anomalias;
- Aplicações de IA na segurança e monitorização de infraestruturas.
Clusters e Modelos de IA e Machine Learning (AI-ML Clusters and Models)
- Introdução à arquitetura de clusters de IA e Machine Learning;
- Componentes fundamentais de ambientes de processamento distribuído;
- Princípios de administração de clusters de IA;
- Obtenção e utilização de modelos de Machine Learning pré-treinados;
- Processos de fine-tuning e otimização de modelos;
- Considerações de desempenho e utilização dos modelos.
Ferramentas de IA – Jupyter Notebook (AI Toolset Mastery – Jupyter Notebook)
- Introdução ao Jupyter Notebook e JupyterLab;
- Utilização de notebooks em atividades de desenvolvimento e análise;
- Aplicação de Python em tarefas de automação;
- Utilização de ferramentas de IA Generativa para apoiar a escrita de código;
- Aplicação de modelos de IA na automação de operações de rede;
- Integração de ferramentas de desenvolvimento em processos operacionais.
Módulo 2 – Infraestruturas, Arquitetura e Governação de Inteligência Artificial
Infraestruturas de Inteligência Artificial (AI Infrastructure)
- Introdução aos componentes fundamentais de infraestruturas de IA;
- Requisitos de computação, armazenamento e conectividade;
- Arquiteturas de suporte a workloads de IA;
- Considerações de escalabilidade e disponibilidade;
- Planeamento de infraestruturas de processamento de IA.
Distribuição de Workloads e Interoperabilidade (AI Workload Placements and Interoperability)
- Identificação dos principais tipos de workloads de IA;
- Estratégias de distribuição e localização de workloads;
- Avaliação dos requisitos de processamento e conectividade;
- Interoperabilidade entre sistemas e componentes de infraestrutura;
- Considerações de desempenho na distribuição de recursos.
Políticas e Governação de IA (AI Policies)
- Introdução às políticas aplicáveis a soluções de Inteligência Artificial;
- Princípios de governação de sistemas de IA;
- Requisitos de conformidade e segurança;
- Enquadramento de normas e standards aplicáveis;
- Considerações de gestão de riscos e responsabilidades.
Sustentabilidade de Infraestruturas de IA (AI Sustainability)
- Princípios de sustentabilidade ambiental e económica;
- Impacto energético das infraestruturas de IA;
- Eficiência na utilização de recursos computacionais;
- Considerações sobre os custos operacionais;
- Boas práticas para implementação de infraestruturas sustentáveis.
Desenho de Infraestruturas de Inteligência Artificial (AI Infrastructure Design)
- Fundamentos do desenho de arquiteturas de IA;
- Identificação dos requisitos técnicos e operacionais;
- Planeamento de recursos de computação e rede;
- Considerações de escalabilidade, desempenho e segurança;
- Avaliação de eficiência e custos;
- Seleção de soluções de infraestrutura adequadas aos workloads.
Módulo 3 – Arquiteturas e Tecnologias de Rede para Workloads de IA
Desafios e Requisitos de Rede para Aplicações de IA
- Identificação das exigências de comunicação de aplicações de IA;
- Requisitos de largura de banda e latência;
- Desafios associados a processamento distribuído;
- Impacto dos padrões de comunicação no desempenho dos modelos;
- Considerações de desenho de redes para workloads de IA
Tecnologias de Transporte para IA (AI Transport)
- Introdução às tecnologias de transporte de dados;
- Utilização de ligações óticas em ambientes de Data Center;
- Utilização de tecnologias de conectividade em cobre;
- Considerações de desempenho e capacidade de transmissão;
Adequação das tecnologias aos requisitos de processamento de IA.Modelos de Conectividade (Connectivity Models)
- Introdução aos principais modelos de conectividade;
- Arquiteturas de rede para ambientes de processamento de IA;
- Considerações de desenho e interligação de componentes;
- Avaliação de diferentes modelos de comunicação;
- Seleção de arquiteturas adequadas aos requisitos dos workloads.
Redes para Inteligência Artificial (AI Network)
- Princípios de desenho de redes dedicadas a aplicações de IA;
- Fundamentos dos protocolos de Camada 2 e Camada 3;
- Considerações de desempenho e escalabilidade;
- Conceitos de processamento distribuído;
- Introdução a Fog Computing e Distributed AI;
- Integração de diferentes componentes da infraestrutura.
Migração de Arquiteturas para Redes de IA e Machine Learning
- Avaliação de infraestruturas de rede existentes;
- Identificação dos requisitos de migração;
- Planeamento da transição de workloads para redes dedicadas;
- Considerações de conectividade e desempenho;
- Estratégias de migração de arquiteturas tradicionais;
- Validação dos requisitos operacionais da nova infraestrutura.
Protocolos de Comunicação ao Nível da Aplicação (Application-Level Protocols)
- Introdução aos mecanismos de comunicação utilizados em workloads de IA;
- Fundamentos de Remote Direct Memory Access (RDMA);
- Funcionamento de RDMA over Converged Ethernet (RoCE);
- Relação entre os protocolos e o desempenho das aplicações;
- Considerações de implementação em ambientes de computação distribuída.
Módulo 4 – Redes Ethernet de Elevado Desempenho e Monitorização
Arquiteturas de Rede de Elevada Capacidade (High Throughput Converged Fabrics)
- Introdução às arquiteturas Ethernet de elevado desempenho;
- Características das redes convergentes;
- Requisitos de largura de banda e capacidade de transmissão;
- Considerações de desenho de redes para clusters de IA;
- Otimização da conectividade entre recursos computacionais.
Implementação de Redes Sem Perdas (Building Lossless Fabrics)
- Fundamentos de redes Ethernet sem perdas;
- Requisitos de comunicação para protocolos RoCE;
- Introdução aos mecanismos de Quality of Service (QoS);
- Configuração conceptual de políticas de prioridade de tráfego;
- Mecanismos de gestão de congestionamento;
- Aplicação de Priority Flow Control (PFC);
- Considerações de desempenho e fiabilidade das comunicações.
Monitorização e Visibilidade do Congestionamento (Congestive Visibility)
- Introdução aos mecanismos de deteção de congestionamento;
- Fundamentos de Explicit Congestion Notification (ECN);
- Funcionamento e aplicação de Priority Flow Control (PFC);
- Introdução ao Cisco Nexus Dashboard Insights;
- Monitorização de congestionamento nas redes;
- Identificação de problemas que afetem workloads de IA;
- Análise da relação entre o comportamento das aplicações e o desempenho da infraestrutura.
Módulo 5 – Gestão de Dados e Desempenho de Workloads de Inteligência Artificial
Preparação de Dados para Inteligência Artificial (Data Preparation for AI)
- Introdução aos processos de preparação de dados;
- Principais etapas do tratamento de informação;
- Identificação de desafios associados à qualidade e disponibilidade dos dados;
- Técnicas fundamentais de preparação de datasets;
- Importância da preparação de dados no desempenho dos modelos de IA.
Desempenho de Dados em Workloads de IA e Machine Learning
- Análise dos requisitos de comunicação de workloads de IA;
- Relação entre processamento de dados e desempenho da infraestrutura;
- Monitorização de fluxos de tráfego de IA e Machine Learning;
- Utilização do Cisco Nexus Dashboard Insights;
- Identificação de limitações de desempenho;
- Avaliação de métricas de utilização de recursos;
- Aplicação de mecanismos de análise para otimização dos workloads.
Módulo 6 – Recursos de Computação, Virtualização e Armazenamento para IA
Hardware Especializado para Inteligência Artificial (AI-Enabling Hardware)
- Introdução aos componentes de hardware utilizados em aplicações de IA;
- Requisitos de processamento para modelos de Machine Learning;
- Importância de hardware especializado para tarefas de IA;
- Aceleração do treino e execução de modelos;
- Considerações de desempenho e capacidade computacional.
Recursos de Computação (Compute Resources)
- Identificação dos principais recursos computacionais;
- Requisitos de processamento para workloads de IA;
- Arquiteturas de servidores para ambientes de Inteligência Artificial;
- Considerações de capacidade, desempenho e escalabilidade;
- Distribuição de recursos em ambientes de processamento distribuído.
Soluções de Computação para Inteligência Artificial (Compute Resource Solutions)
- Introdução às soluções de computação utilizadas em IA;
- Avaliação de diferentes arquiteturas de processamento;
- Características das soluções de computação para Data Centers;
- Seleção de recursos de acordo com os requisitos dos workloads;
- Considerações de integração com infraestruturas de rede e armazenamento.
Recursos Virtuais (Virtual Resources)
- Fundamentos de virtualização em ambientes de IA;
- Modelos de infraestrutura virtualizada;
- Opções de implementação de recursos virtuais;
- Considerações de desempenho e utilização de recursos;
- Integração de virtualização com infraestruturas de computação para IA.
Recursos de Armazenamento (Storage Resources)
- Introdução aos requisitos de armazenamento para aplicações de IA;
- Estratégias de armazenamento de dados;
- Principais protocolos de armazenamento;
- Fundamentos de Software-Defined Storage;
- Considerações de capacidade, desempenho e disponibilidade;
- Integração de soluções de armazenamento com ambientes de IA.
Módulo 7 – Implementação de Clusters de IA e Modelos de Linguagem
Configuração de Clusters de Inteligência Artificial (Setting Up AI Cluster)
- Introdução aos procedimentos de implementação de clusters de IA;
- Planeamento da arquitetura de rede para clusters de processamento;
- Configuração de recursos de conectividade;
- Introdução à utilização do Cisco Nexus Dashboard Fabric Controller (NDFC);
- Configuração de uma Fabric otimizada para workloads de IA e Machine Learning;
- Validação de requisitos de conectividade e desempenho.
Implementação de Modelos GPT de Código Aberto com RAG
- Introdução à utilização de modelos de linguagem de código aberto;
- Fundamentos de implementação local de modelos GPT;
- Conceitos de Retrieval-Augmented Generation (RAG);
- Integração de modelos de linguagem com fontes de informação;
- Utilização de soluções RAG em tarefas de engenharia de redes;
- Aplicação prática de modelos de IA na consulta e análise de informação técnica.