Durante il VB Transform 2026, Toby Roberts, SVP Engineering di Zillow, e Arvind Jain, co-fondatore e CEO di Glean, hanno svelato i dettagli dell'architettura AI che hanno costruito per gestire il percorso complesso dei clienti nel settore immobiliare. I clienti di Zillow interagiscono con diversi professionisti nel corso di mesi o anni, passando da una consulenza telefonica a un ufficiale di prestito fino a un agente immobiliare, e si aspettano che il contesto li segua. Un singolo chatbot non può gestire questa continuità. Roberts ha spiegato che la sfida più grande non sono stati i dati ma la creazione di un layer di contesto persistente in grado di accompagnare il cliente ovunque si trovi nel suo viaggio.
Zillow ha scelto di possedere il layer di contesto invece di affidarsi a interfacce chatbot esterne
Roberts ha sottolineato che Zillow ha iniziato con una solida base di dati, utilizzando un approccio data mesh, una chiara lineage dei dati e una governance con permessi e identità. Tuttavia, la parte difficile è stata costruire qualcosa che ricordasse dove si trova il cliente e portasse avanti quel contesto, indipendentemente dalla superficie su cui si presenta successivamente. Per questo motivo, Zillow ha deciso di possedere internamente il layer di contesto, piuttosto che dipendere da un'interfaccia chatbot esterna, una decisione presa rapidamente dopo aver analizzato la forma reale di una transazione immobiliare, che non è una singola conversazione.
Sponsored Protocol
Architettura AI con modelli di piccole dimensioni e l'integrazione di Glean
Zillow ha costruito un proprio harness AI, invece di instradare i clienti attraverso una singola API di modello. L'azienda ha sfruttato vent'anni di esperienza nel machine learning, utilizzando modelli più piccoli e specializzati per compiti specifici, invece di un modello generalista. Internamente, questo harness lavora insieme a Glean. Roberts ha rivelato che Zillow ha migliaia di agenti Glean in produzione, che eseguono decine di migliaia di attività ripetitive in tutta l'azienda. La proposta di Glean, secondo Jain, è centralizzare una volta il lavoro di integrazione attraverso il gateway MCP di Glean, evitando che finanza, legale e marketing ricostruiscano ognuno le proprie connessioni agli stessi sistemi. Questa centralizzazione è anche una leva di costo: il routing dei modelli invia la maggior parte dei compiti a modelli più piccoli ed economici, e il contesto precalcolato evita che un agente bruci token per assemblare il contesto da zero. Jain ha citato un esempio in cui Claude impiega molto tempo ad assemblare il contesto iniziale, mentre il routing tramite Glean può dimezzare il consumo di token.
Sponsored Protocol
Misurare il ROI dell'AI prima di costruire: la lezione di Zillow con le metriche DORA
Un punto chiave emerso dall'intervento è l'importanza di stabilire una baseline di misurazione prima di implementare l'AI. Roberts ha attribuito l'aumento del 40% nel codice distribuito all'adozione dell'AI proprio grazie a una baseline di metriche DORA istituita anni prima, non al rollout dell'AI stesso. Altri suggerimenti pratici includono centralizzare il contesto una sola volta invece di farlo ricostruire da ogni team, non dare per scontato che l'ereditarietà dei permessi sia sufficiente per i dati regolamentati (Zillow ha aggiunto regole ferree e un controllo di conformità permanente per le categorie più sensibili), e trattare il contesto come una leva di costo, non solo come una capacità. Inoltre, un precedente episodio di violazione di Hugging Face dimostra come l'assenza di un contesto persistente e di guardrail adeguati possa compromettere la sicurezza. Anche la fiducia nell'AI sta calando, ma una governance solida può invertire la tendenza.
Sponsored Protocol
Per approfondimenti sull'architettura di contesto, si può consultare la pagina Wikipedia su Zillow che descrive la scala delle sue operazioni. In conclusione, Jain ha affermato che i modelli da soli non bastano per portare l'automazione nell'impresa: è necessario connetterli con il contesto aziendale. Le aziende che vogliono implementare AI agentica dovrebbero seguire l'esempio di Zillow, misurando prima e costruendo un layer di contesto persistente.
Sponsored Protocol
