#25 - Estamos a Construir um ChatGPT Português Com o IA Amália

Neste episódio falo com o Bartolomeu e o João sobre o projeto Amália, o LLM português, e como estamos a tentar construir um negócio à volta dele (iaamalia.com). Partilhamos as nossas frustrações, vitórias e aprendizagens técnicas, desde as limitações do modelo Amália, às integrações que fomos construindo, até ao pivot que fizemos para o Caravela. Uma conversa honesta sobre empreendedorismo bootstrap em Portugal, inteligência artificial e o que aprendemos a tentar vender um produto de AI no mercado português.

Links e Menções:

Nosso projeto: https://iaamalia.com/

Euro LLM: https://eurollm.io

Podsqueeze: https://podsqueeze.com

Idealista: https://www.idealista.pt

Portal Base: https://www.base.gov.pt

INE: https://www.ine.pt

Bolsa de Emprego: https://www.iefp.pt

Deep Seek: https://www.deepseek.com

Cursor: https://www.cursor.com

OpenAI / ChatGPT: https://www.openai.com

Anthropic / Claude: https://www.anthropic.com

Google Gemini: https://gemini.google.com

Mistral: https://www.mistral.ai

Trivago: https://www.trivago.pt

Academia de Código: https://www.academiadecodigo.org

Timestamps:

00:00:00 Introdução ao projeto Amália e apresentação dos convidados

00:01:15 Bartolomeu conta como passou de design para developer

00:02:01 João e a transição para developer com ajuda da IA

00:03:10 O verdadeiro problema nunca foi o código mas sim as decisões de produto

00:04:18 O que é o Amália e como se compara com outros modelos

00:05:34 As limitações técnicas do Amália e a evolução da IA em dois anos

00:06:28 Valeu a pena gastar 5 milhões de euros no Amália

00:07:06 Comparação de parâmetros entre o Amália e modelos como o Deep Seek

00:07:52 A frustração com o Amália e a perceção pública do modelo

00:09:35 O Amália não serve para produção e alucina demasiado

00:10:01 Como começou o projeto e a estratégia de audience first

00:11:47 A ligação do Amália a um RAG e os primeiros desafios técnicos

00:12:26 O que é um RAG e como funciona

00:13:45 Quando o Amália conseguiu responder quem é o primeiro ministro

00:15:27 O que são evals e como os usámos para testar modelos

00:16:50 O Amália alucina mesmo com informação certa à frente dele

00:17:46 Comparação de modelos open source e escolha do cérebro do Caravela

00:18:06 Como funciona um eval na prática

00:19:07 O Amália fica em último nos seus próprios testes

00:19:51 O que é o reasoning e porque o Amália não o tem

00:21:02 O problema do tool calling no Amália e como demos a volta

00:22:09 O regime híbrido com o Amália como sub agente

00:23:30 O que é o Caravela e como funciona o model routing

00:25:03 A questão da privacidade e hospedar modelos na Europa

00:25:45 Os problemas com os providers europeus e o Deep Seek

00:27:04 Como construímos a nossa própria infraestrutura para resolver os erros

00:28:15 Providers a redirecionar tráfego para fora da Europa sem avisar

00:29:01 As primeiras tentativas de monetização e o que os clientes queriam

00:30:14 Os erros de vendas e as reuniões com potenciais clientes

00:31:55 O factor curiosidade versus o factor pagar

00:33:01 O nosso value proposition segundo os próprios clientes

00:34:37 A estratégia de cobrar logo uma fee inicial para filtrar interesse

00:35:00 O pivot para as integrações como valor principal do projeto

00:36:06 A perspetiva do Bartolomeu sobre o processo de empreendedorismo

00:37:00 A discussão geral sobre o futuro da IA e dos modelos open source

00:38:21 Porque é que as empresas ainda pagam caro por modelos de marca

00:40:14 O ROI da IA nas empresas bootstrap e a ilusão de produtividade

00:41:00 Mais funcionalidades não significa mais dinheiro

00:43:55 O futuro das grandes empresas de IA como OpenAI e Anthropic

00:45:17 A Apple e a estratégia de correr modelos localmente

00:48:58 Previsões sobre o mercado português e o futuro do projeto Amália

00:50:20 A estratégia de distribution first sem produto definido

00:51:14 O cliente do setor têxtil e as integrações com o INE

00:52:20 Apelo final e como contactar para integrar o Caravela na vossa empresa