O BDH da Pathway: uma nova abordagem pós-transformadora para a IA empresarial, na AWS

Os modelos de transformadores, a arquitetura que sustenta os LLMs modernos, revolucionaram a forma como vivemos, trabalhamos, criamos e competimos. Eles permitiram que startups experimentassem e lançassem ideias com equipes enxutas e foram um divisor de águas em setores de B2B, como codificação, análise e criação de conteúdo. Tanto para fundadores quanto para empresas, obtiveram ganhos de produtividade que seriam inimagináveis há alguns anos.

A IA baseada em transformadores evoluiu com a escala de força bruta, o que significa que modelos maiores, mais dados e mais computação aprimoraram os LLMs. Se for esse o caso, por que há uma taxa de falha de 95% em projetos de IA empresarial, de acordo com um estudo MIT? A resposta está na arquitetura dos modelos de transformadores. Eles sempre iniciam todas as tarefas no mesmo estado e, sem memória, ficam presos em um ciclo do Dia da Marmota, incapazes de aprender com o passado. Essa limitação técnica se traduz em implicações comerciais reais, o que significa que a própria infraestrutura que possibilitou o crescimento e capacitou as organizações agora está representando um obstáculo para um maior progresso.

Uma abordagem radicalmente diferente dos modelos

À medida que a IA evoluiu, os riscos aumentaram. Agora, as empresas estão procurando aplicar a IA a casos de uso e fluxos de trabalho internos proprietários, exigindo modelos que possam aprender e adaptar o comportamento ao longo do tempo, apoiar o raciocínio de longo prazo e produzir inferências observáveis e auditáveis. Os modelos transformadores costumavam significar transformação nos negócios, mas agora é necessária uma abordagem radicalmente diferente.

A Pathway, uma parceira de modelos de fronteira da AWS, é pioneira nessa próxima geração de IA com o Dragon Hatchling (BDH). Desenvolvida no Amazon SageMaker e otimizada para a infraestrutura da AWS, o BDH é um modelo de fronteira pós-transformador que potencializa o aprendizado contínuo, o contexto infinito e a adaptação em tempo real. Ele resolve o principal desafio de adoção, memória e aprendizado da IA empresarial em tempo real, permitindo que as organizações desbloqueiem novas funcionalidades críticas e capitalizem a inteligência corporativa personalizada.

As limitações dos transformadores na empresa

Os modelos de transformadores continuam sendo a escolha padrão para muitas tarefas e mudaram fundamentalmente as operações comerciais. No entanto, após quase uma década de existência, o transformador está começando a atingir seus limites práticos e matemáticos na empresa.

1. Os transformadores não foram projetados para alcançar o aprendizado contínuo. Eles são treinados uma vez, não conseguem aprender novas habilidades com o tempo e não podem se tornar mais inteligentes com o tempo, pois só podem acumular texto em um banco de dados externo.
2. Os transformadores consomem muitos recursos.Eles usam grandes quantidades de potência computacional porque processam as informações de uma forma que cresce com muita velocidade à medida que os dados aumentam, precisam de memória muito rápida para serem executados e ajustam e consideram constantemente os parâmetros de um modelo.
3. Os transformadores enfrentam restrições arquitetônicas para fornecer o que é necessário para uma verdadeira IA corporativa nativa. As empresas contêm conhecimentos e processos especializados que precisam ser internalizados e aprendidos. Também precisam de governança e observabilidade. Os modelos atuais baseados em transformadores funcionam como caixas fechadas com raciocínio opaco, recorrem a pesos pré-treinados e carecem de mecanismos para modelar “o que acontece a seguir”

A que isso se resume na realidade

As limitações tecnológicas dos transformadores se traduzem diretamente em implicações comerciais reais, criando custos e complexidades adicionais para empresas e startups. Em vez de servir como uma ferramenta de capacitação, os transformadores se tornaram uma fonte de gargalos, forçando as equipes a passar mais tempo gerenciando soluções alternativas do que gerando valor.

• É necessário trabalho extra para adequar o modelo à forma como uma empresa realmente funciona. O alinhamento de modelos prontos para uso à forma como uma organização opera geralmente envolve o gerenciamento de cargas de trabalho ou correções extras, como criar LLMs personalizados, redimensionar modelos e usar fluxos de trabalho agênticos para criar processos.
• Adaptar ou contextualizar o conhecimento especializado exige que as equipes gerenciem amplos ajustes finos e/ou implantações complexas de fluxos de trabalho agênticos.
• A diferenciação se torna um desafio. Para alcançar resultados exclusivos, as equipes precisam personalizar os modelos sozinhas, sabendo que podem perder relevância e precisão com o tempo, ou usar os mesmos modelos prontos para uso que seus concorrentes.
• O custo obriga a fazer trocas complicadas. Treinamento e inferência caros forçam as equipes a escolher onde a IA será implantada, perdendo oportunidades em potencial.
  

BDH: criação de um novo paradigma de inteligência corporativa

Vimos a evolução dos modelos de transformadores, mas para empresas que buscam diferenciar suas ofertas e agregar valor, isso não basta mais. Em vez de fornecer uma melhoria incremental na pilha de transformadores, o BDH marca uma mudança de paradigma, inaugurando uma nova onda de IA empresarial.

Ao contrário dos modelos baseados em transformadores que usam pesos fixos, a arquitetura do BDH é estruturada mais como uma rede de neurônios e sinapses. As conexões são atualizadas continuamente à medida que novas informações chegam, permitindo que o modelo retenha e refine o conhecimento ao longo do tempo, em vez de ser redefinido para cada tarefa. O resultado é uma visão da inteligência corporativa como baseada em memória, autônoma e observável. Isso libera novos recursos para empresas, incluindo:

1. Aprendizado contínuo: BDH aprende a cada interação e internaliza esse aprendizado ao longo do tempo para raciocinar, ter experiência duradoura e solucionar problemas de maneira cada vez mais autônoma.

Por que isso importa

• O BDH não se limita a ingerir e regurgitar mais informações. Eles desenvolvem inteligência e julgamento ao longo do tempo.
• A experiência no domínio se acumula, criando uma vantagem agregada por meio da personalização.
• Estabelece uma aderência corporativa que não pode ser replicada por meio de dados ou treinamento. A IA se torna insubstituível à medida que aprende sobre seus negócios.
• Razões em horizontes de longo prazo.
• Aprende com dados escassos e especializados (versus a fome de dados dos transformadores).
  
  

2. Eficiência: o BDH funciona como um cérebro na GPU com eficiência incorporada, esteja o modelo em treinamento ou no modo de inferência. A inteligência começa com interações locais que se fortalecem ou enfraquecem com o tempo e interagem quando necessário, não de uma só vez. Apenas 5% dos neurônios disparam por token versus transformadores que acionam o modelo inteiro de uma só vez.

Além disso, o BDH é um modelo de raciocínio verdadeiramente nativo. Ao criar um espaço de raciocínio interno maior chamado espaço de raciocínio latente, ele tem mecanismos de memória intrínsecos que apoiam o aprendizado e a adaptação durante o uso. O BDH mantém o que os transformadores são excelentes, especificamente na compreensão e na geração de idiomas, ao mesmo tempo em que adiciona a capacidade de resolver problemas não linguísticos que atrapalham os LLMs padrão. Por exemplo, o BDH atinge 97,4% de precisão nos referenciais do Extreme Sudoku, uma coleção de cerca de 250 mil dos quebra-cabeças de Sudoku mais difíceis disponíveis, enquanto os principais LLMs têm dificuldade em alcançar um bom desempenho.

Por que isso importa?

• Melhoria de 10 vezes na eficiência, em esforços de treinamento e tokens de inferência.
• Redução do consumo de energia e potência.
• Tempo de comercialização mais rápido, sem treinamento inicial massivo (conjuntos de dados reduzidos, aprendizado ao longo do tempo).
• 1 arquitetura única que se destaca em tarefas linguísticas e não linguísticas (por exemplo, jogos), o que indica um forte potencial de tomada de decisão.
  
  

3. Nível empresarial: com a BDH, as empresas podem executar uma IA que compreende seus negócios, se adapta continuamente e é fácil de monitorar e explicar. Tudo isso sem soluções nem correções extras.

Por que isso importa

• É a IA que se incorpora ao contexto da experiência de uma organização.
• Há confiança na implantação de sistemas que continuem aprendendo em produção com auditabilidade.
• A IA é responsável pelo tempo e, portanto, pode lidar com a conscientização do processo, a geminação digital e a próxima melhor ação.
• Governança sobre como e por que um modelo está mudando ao longo do tempo.
• Mecanismos disponíveis e claros para pausar, isolar ou reverter o aprendizado quando necessário.

A “inferência persistente” libera funcionalidades críticas de IA

Qual é o seu fosso? Quando a implantação de IA pronta para uso e o treinamento único não oferecem mais vantagem competitiva, é necessária uma abordagem diferente. O BDH foi projetado para casos de uso de “inferência fixa” que criam o fosso corporativo definitivo. O BDH aprende continuamente com dados proprietários, construindo experiência de domínio ao longo do tempo e criando uma vantagem competitiva real.

Os casos de uso de inferência fixa estão profundamente vinculados ao ativo mais valioso de uma empresa: seus dados proprietários. Eles exigem acesso constante às informações mais recentes e imediatas para manter a precisão e o valor, e dependem da capacidade de raciocinar de maneira observável por longos períodos.

Então, onde esses casos de uso “fixos” aparecem? O BDH oferece casos de uso de inferência fixa em horizontais e verticais. Horizontalmente, vemos surgirem em áreas em que novas funcionalidades são essenciais. Verticalmente, vemos isso em varejo, seguros, tecnologia, serviços financeiros e saúde, em que os dados e o contexto realmente impulsionam os negócios.

Horizontal:

o BDH automatiza um longo processo contábil de fim de trimestre para uma empresa global e multidisciplinar, raciocinando entre regiões e departamentos comerciais ao longo de vários meses. Em vez de tratar o fechamento financeiro como um evento isolado, o BDH abrange todo o trimestre, realizando previsões antecipadas, avaliando variações de meio de ciclo, – analisando exposições para ajudar a guiar o hedging, coordenando reconciliações e terminando com fechamento de teste auditável e limpo. Essa inteligência de longo horizonte melhora a precisão e a previsão ao longo do tempo.

Vertical: agnóstico
Horizontal: gestão
Principal diferencial: raciocínio de longo prazo

Varejo:

o BDH garante que uma empresa de varejo mantenha as vendas dentro da meta com base em condições dinâmicas . Ao levar em conta as mudanças nos dados internos e externos, o BDH sugere as próximas melhores ações, como no que se concentrar no fluxo de trabalho de personalização do produto, oportunidades de preços dinâmicos ou áreas nas quais a promoção personalizada faz sentido.

Vertical: varejo
Horizontal: vendas
Diferenciador principal: a próxima melhor ação

Seguro

O BDH aumenta a automação da pré-autorização e subsequente verificação de solicitações médicas para uma empresa de serviços de seguros , raciocinando em cenários complexos e não pavimentados em tempo real. Ele reduz o custo por solicitação ao automatizar uma porcentagem maior de solicitações, ao mesmo tempo em que melhora a precisão e fornece uma trilha de auditoria integrada para cada decisão.

Vertical: seguros
Horizontal: operações
Diferenciador principal: interoperabilidade

Grande tecnologia

O BDH opera um gêmeo digital ativo da rede de cada cliente corporativo para um provedor de telecomunicações . Ao ingerir continuamente dados de telemetria, topologia e dados ao vivo do cliente, o BDH compara o uso real com o provável e recomenda as próximas melhores ações de reconfiguração preventiva, manutenção e serviço.

Vertical: alta tecnologia
Horizontal: serviço
Diferenciador principal: gêmeo digital ao vivo

Saúde

O BDH apoia pesquisas clínicas complexas ao integrar continuamente os históricos dos pacientes para sugerir opções de tratamento mais informadas. Ao contrário dos LLMs tradicionais, que não são criados para aprender com um pequeno conjunto de dados e enfrentam casos raros ou únicos, o BDH pode aprender com “exemplos de um” e transformá-los em insights acionáveis.

Vertical: saúde
Horizontal: pesquisa
Principal diferencial: conjuntos de dados reduzidos

Serviços financeiros

O BDH realiza uma prospecção de negócios hiperpersonalizada aprendendo o manual de risco proprietário e a tese de investimento de um banco. Ao analisar continuamente os dados do mercado em tempo real, ele gera novas oportunidades de negócios que combinam e identificam novas oportunidades que são mais lucrativas do que as opções padrão do mercado.

Vertical: serviços financeiros
Horizontal: risco
Principal diferencial: aprendizado contínuo

Desenvolvido no Amazon SageMaker HyperPod, otimizado para a AWS

A AWS e a Pathway estão tornando essa tecnologia acessível hoje, trazendo inovação de ponta em IA para os casos de uso em que o contexto, a memória e o raciocínio de longo prazo são mais importantes. O BDH é desenvolvido no Amazon SageMaker HyperPod, que foi projetado para treinamento distribuído em grande escala e ajuda equipes a provisionar e operar clusters de GPU com fluxos de trabalho gerenciados.

Ele também é otimizado para a infraestrutura da AWS, o que significa que opera de modo eficiente e com desempenho máximo. O BDH é acessível via API para aplicativos e fluxos de trabalho existentes da AWS e melhora continuamente com base nos dados que as organizações já armazenam na AWS.

Entre em contato com a Pathway (dragon@pathway.com) para começar a explorar e implementar o BDH. Os clientes podem começar com um investimento inicial reduzido por meio de programas de POC apoiados pela AWS. Você também pode acessar a pesquisa da Pathway sobre o Arxive seus repositórios de código aberto no Github.