Mit Foundry IQ baut Microsoft eine neue Wissensschicht für KI-Agenten, die Retrieval-Augmented Generation (RAG) standardisiert und tief in die Microsoft-Cloud integriert. Als Teil der neuen „IQ“-Ebene neben Work IQ und Fabric IQ soll Foundry IQ Copilots und benutzerdefinierte Agenten mit kuratiertem, berechtigungs­sicherem Unternehmenswissen versorgen. Für IT-Architekt:innen, Admins und Entwickler:innen stellt sich damit die Frage, wie sich bestehende RAG-Ansätze verändern – und welche Kompetenzen Teams jetzt aufbauen sollten.

Begriffserklärung & Einleitung

Foundry IQ ist ein neuer Dienst innerhalb von Microsoft Foundry bzw. Azure AI Foundry, der als verwaltete Wissensplattform für KI-Agenten positioniert ist. Technisch gesehen handelt es sich um eine zentral verwaltete Knowledge-Base-Schicht, die auf Azure AI Search aufbaut und Agenten – etwa Microsoft Copilot oder eigene Agentenlösungen – mit kontextrelevanten Informationen aus unterschiedlichen Datenquellen versorgt.

Im Rahmen der im November 2025 vorgestellten „Microsoft IQ“-Ebene ergänzt Foundry IQ die Komponenten Work IQ (Signale aus der Zusammenarbeit in Microsoft 365) und Fabric IQ (semantische Datenmodelle auf dem Data Estate). Zusammen sollen sie eine einheitliche „Intelligence Layer“ bilden, die Agenten mit konsistentem Kontext versorgt – von Kollaborationsdaten über analytische Daten bis hin zu unstrukturierten Dokumenten.

Für Unternehmen, die bereits stark auf Microsoft 365, Azure und Microsoft Fabric setzen, adressiert Foundry IQ ein zentrales Problem vieler RAG-Projekte: Jede Lösung baute bisher eigene Pipelines für Datenanbindung, Chunking, Embeddings, Berechtigungen und Retrieval-Strategien auf. Foundry IQ soll diese Logik zentralisieren und als wiederverwendbaren Dienst für mehrere Agenten bereitstellen.

Funktionsweise & technische Hintergründe

Architektur im Kontext von Microsoft IQ

Architektonisch ist Foundry IQ eine Schicht im Microsoft-Cloud-Ökosystem:

• Work IQ liefert Signale und Kontext aus Microsoft 365 (z. B. wer woran arbeitet, Kommunikationsströme).
• Fabric IQ bringt semantische Bedeutung in strukturierte Datenbestände, etwa in OneLake und Power BI.
• Foundry IQ bildet darauf auf und stellt einen zentralen Wissenslayer bereit, der sowohl strukturierte als auch unstrukturierte Daten für Agenten zugänglich macht.

Foundry IQ selbst ist eng mit Azure AI Foundry verzahnt. Die Knowledge Bases laufen technisch auf Azure AI Search und werden über die Foundry-Oberfläche konfiguriert und Verwaltungsvorgängen wie Monitoring und Governance unterzogen.

Knowledge Bases und Datenquellen

Kernkonzept von Foundry IQ sind Knowledge Bases: logisch abgegrenzte Wissensräume zu einem Thema, z. B. „Mitarbeiterhandbuch“, „Produktdokumentation“ oder „Fachverfahren Steuern“. Entwickler:innen verbinden ihre Agenten nicht mehr direkt mit einzelnen Indizes, sondern mit einer oder mehreren Knowledge Bases.

Eine Knowledge Base kann zwei Typen von Quellen umfassen:

• Indizierte Quellen
  • SharePoint- und OneDrive-Inhalte
  • OneLake / Fabric-Daten
  • Azure Blob Storage
  • Azure AI Search-Indizes
  • weitere Azure-Dienste mit Content Understanding (Layout-Parsing von Tabellen, Überschriften, Abschnitten etc.)
• Föderierte/remot angebundene Quellen
  • M365-Umgebungen
  • Web-Inhalte
  • über OneLake angebundene Multi-Cloud-Quellen wie AWS S3 oder Snowflake
  • externe Systeme über Model Context Protocol (MCP, z. B. CRM oder ERP), aktuell teils im Preview-Status

Foundry IQ übernimmt für indizierte Quellen die komplette Pipeline: Ingestion, Normalisierung, Chunking, Vektorisierung und Aufbau hybrider Indizes (Kombination aus semantischer, Volltext- und Vektorsuche). Bei aktivierter Azure Content Understanding-Funktion werden Layout-Informationen (Tabellen, Abbildungen, Abschnittsstrukturen) extrahiert, um die Retrieval-Qualität zu erhöhen.

Agentic Retrieval und RAG 2.0

Ein zentrales Unterscheidungsmerkmal von Foundry IQ ist das Konzept des agentic retrieval: Anstatt eine einzelne Vektorsuche auszuführen und die Treffer direkt an das Sprachmodell zu geben, arbeitet Foundry IQ mit einem mehrstufigen Retrieval-Agenten innerhalb der Knowledge Base.

Typisch sind die folgenden Schritte:

1. Query-Analyse und Planen – Die Nutzeranfrage wird analysiert, Teilfragen und benötigte Quellen werden bestimmt.
2. Iteratives Suchen – Mehrere Suchläufe über verschiedene Indizes und Quellen (Vektor, Keyword, semantisch) werden orchestriert.
3. Reflexion – Das System bewertet die Qualität der Ergebnisse und entscheidet, ob weitere Suchen notwendig sind.
4. Synthese – Relevante Inhalte werden zusammengeführt und dem Agenten inklusive Zitationskontext bereitgestellt.

Konfigurationen wie ein „retrieval reasoning effort“ erlauben es, die Tiefe dieser mehrstufigen Suche zu steuern – etwa schnellere, kostengünstige Antworten versus gründlichere, kontextreichere Recherchen.

Für Entwickler:innen sieht die Nutzung vereinfacht etwa so aus (pseudocode):

{
  "agentId": "hr-support-agent",
  "knowledgeBases": [
    {
      "id": "kb-employee-handbook",
      "mode": "foundry-iq",
      "retrieval": {
        "reasoningEffort": "medium",
        "maxSources": 8
      }
    }
  ],
  "request": {
    "prompt": "Welche Elternzeitregelungen gelten für Teilzeitkräfte in Deutschland?",
    "userId": "alice@contoso.de"
  }
}

Der Agent muss nur wissen, welche Knowledge Base er nutzt; die eigentliche Orchestrierung der Queries übernimmt Foundry IQ.

Sicherheit, Governance und Betrieb

Gerade für Enterprise- und Behördenkunden spielen Sicherheits- und Governance-Aspekte eine Schlüsselrolle. Foundry IQ integriert sich in bestehende Microsoft-Sicherheitsmechanismen:

• Authentifizierung & Autorisierung über Microsoft Entra ID (ehemals Azure AD)
• Durchreichung von ACLs aus SharePoint/OneDrive auf Dokumentebene, sodass Agenten nur Inhalte sehen, für die der/die Nutzer:in berechtigt ist
• Compliance & Data Governance über Microsoft Purview, inklusive Klassifizierung, Data Loss Prevention und Audit Trails
• Monitoring & Observability durch Integration in Foundry-spezifische Telemetrie (z. B. über Azure Monitor)

Damit wird Foundry IQ nicht nur eine technische, sondern auch eine organisatorische Plattformkomponente: Es zwingt Unternehmen gewissermaßen dazu, Berechtigungsmodelle, Klassifizierungen und Data-Governance-Regeln konsistent umzusetzen, um sinnvolle Agentenlösungen zu bauen.

Anwendungsbeispiele in der Praxis

1. Mitarbeiter-Self-Service und Copilot-Erweiterungen

Ein typisches Szenario sind interne Copilots für HR, IT oder Compliance. Statt individuelle RAG-Pipelines pro Bot aufzubauen, können Organisationen eine oder mehrere Foundry-IQ-Knowledge-Bases definieren, etwa:

• „HR-Richtlinien DACH“
• „IT-Support-Wissensdatenbank“
• „Richtlinien & Betriebsvereinbarungen“

Teams integrieren diese Knowledge Bases in Copilot-Erweiterungen oder eigene Agenten und profitieren von konsistenter Berechtigungslogik und zentraler Pflege. Änderungen an Dokumenten oder Richtlinien müssen nur an einer Stelle aktualisiert werden.

2. Fachverfahren im Public Sector

Behörden haben oft komplexe Fachverfahren mit umfangreicher Rechts- und Verfahrensdokumentation. Foundry IQ kann hier helfen, Wissensstände wie Verwaltungsvorschriften, Handbücher und technische Dokumentation als kuratierte Knowledge Bases bereitzustellen, während sensible Fachanwendungsdaten über föderierte Quellen angebunden werden.

Wichtig ist dabei: Die eigentlichen Daten können in national geregelten Rechenzentren oder On-Premises verbleiben, während Foundry IQ nur die Metadaten bzw. ein berechtigungsgeprüftes Abbild für Agentenanfragen nutzt – abhängig von der konkreten Architektur und den gewählten Konnektoren.

3. Multi-Cloud- und Data-Mesh-Szenarien

Viele Unternehmen setzen mittlerweile auf Data Lakes in OneLake, kombinieren diese aber mit Daten in Snowflake oder AWS S3. Über OneLake-Konnektoren und externe Quellen kann Foundry IQ einen Teil dieser heterogenen Datenlandschaft für Agenten zugänglich machen, ohne überall eigene RAG-Pipelines zu betreiben.

Für Data-Mesh-Architekturen bietet sich an, pro Domäne (z. B. „Sales“, „Finance“, „Supply Chain“) eigene Knowledge Bases zu definieren, die wiederum von domänenspezifischen Agenten genutzt werden.

Vorteile und Herausforderungen von Foundry IQ

Zentrale Vorteile

• Standardisierte RAG-Architektur
  RAG wird von einer projektspezifischen Speziallösung zu einer Plattformfunktion. Teams können Wissen als Service bereitstellen, statt für jede Agentenlösung die Retrieval-Logik neu zu erfinden.
• Tief integrierte Sicherheit & Governance
  Durch Entra, Purview und die Durchreichung von ACLs fügt sich Foundry IQ in bestehende Sicherheits- und Compliance-Modelle ein – ein entscheidendes Argument im Enterprise-Umfeld.
• Agentic Retrieval statt „One-Shot-RAG“
  Die mehrstufige, planende Suche über mehrere Quellen erhöht typischerweise Antwortqualität und Robustheit gegenüber vagen oder mehrteiligen Fragen.
• Skalierung über mehrere Agenten
  Einmal aufgebaute Knowledge Bases können von vielen Agenten und Copilot-Erweiterungen genutzt werden – ein signifikanter Hebel für größere Organisationen mit Dutzenden Anwendungsfällen.
• Reduzierter Engineering-Aufwand
  Ingestion, Chunking, Embeddings und Indexpflege werden weitgehend von der Plattform übernommen, was Entwicklungszeit und Betriebskomplexität reduziert.

Herausforderungen und Risiken

• Starker Plattform-Lock-in
  Foundry IQ ist bewusst auf das Microsoft-Ökosystem optimiert. Organisationen mit heterogenen Cloud-Stacks müssen abwägen, wie stark sie sich auf diese Schicht stützen wollen.
• Preview-Status und Reifegrad
  Zum jetzigen Zeitpunkt befindet sich Foundry IQ in der Public Preview. Funktionen, Skalierungsgrenzen und SLAs können sich ändern – produktive Kernprozesse sollten daher nur nach sorgfältiger Bewertung migriert werden.
• Komplexität der Konfiguration
  Auch wenn die technische Pipeline vereinfacht wird, bleibt die fachliche Modellierung von Knowledge Bases, Berechtigungen und Datenqualität anspruchsvoll. Fehler hier wirken sich direkt auf Antwortqualität und Compliance aus.
• Kosten- und Performance-Tuning
  Agentic Retrieval liefert bessere Ergebnisse, erzeugt aber auch mehr Requests und somit Kosten. IT-Teams benötigen Monitoring und Tuning-Konzepte (z. B. über Foundry-Telemetrie und Modellrouter), um ein sinnvolles Preis-Leistungs-Verhältnis zu erreichen.

Alternative Lösungen zu Foundry IQ

Foundry IQ ist nicht die einzige Option, um Enterprise-RAG umzusetzen:

• Eigene RAG-Stacks auf Azure
  Unternehmen können weiterhin direkt mit Azure AI Search, Azure OpenAI, Functions/Container Apps und Frameworks wie Semantic Kernel oder LangChain arbeiten und ihre Pipelines selbst modellieren. Das bietet maximale Flexibilität, erfordert aber deutlich mehr Engineering-Aufwand.
• RAG-Lösungen anderer Hyperscaler
  
  • Google bietet mit Vertex AI Agent Builder und Grounding-Funktionen ähnliche Konzepte.
  • AWS stellt mit Bedrock Agents und Knowledge Bases einen verwalteten Ansatz für Retrieval bereit.
  Diese Plattformen integrieren sich naturgemäß besser in ihre jeweiligen Ökosysteme, sind aber weniger eng mit Microsoft-365-Daten verknüpft.
• Spezialisierte Drittanbieter-Plattformen
  Anbieter wie Graphlit, Glean oder diverse Vektor-Datenbanken (z. B. Pinecone, Weaviate) bieten fokussierte RAG- und Wissensplattformen mit unterschiedlichen Schwerpunkten – etwa Analytics, Multi-Cloud-Fähigkeit oder granulare Steuerung der Retrieval-Strategien.

Für viele Organisationen wird ein hybrider Ansatz realistisch sein: zentrale Nutzung von Foundry IQ im Microsoft-Kontext, kombiniert mit speziellen Lösungen für Non-Microsoft-Workloads.

Fazit mit kritischer Bewertung

Foundry IQ markiert einen wichtigen Schritt hin zu einer standardisierten, plattformweiten Wissensschicht für KI-Agenten in der Microsoft-Welt. Für Architekt:innen bietet es die Chance, RAG von einem Projektmuster in eine zentral verwaltete Plattform-Funktion zu überführen – inklusive klarer Verantwortlichkeiten für Datenqualität, Governance und Berechtigungen.

Für Administrator:innen verlagert sich der Fokus von der Pflege einzelner Pipelines hin zur Gestaltung von Knowledge Bases, Berechtigungsmodellen und Überwachungsprozessen. Die Integration mit Entra, Purview und Foundry-Telemetrie kann hier helfen, erhöht aber auch die Komplexität der Gesamtplattform.

Entwickler:innen profitieren von einem höheren Abstraktionsgrad: Anstatt Embeddings, Indizes und Pipelines selbst zu implementieren, können sie sich auf die Agentenlogik und Domänenmodellierung konzentrieren. Gleichzeitig verlangt Foundry IQ ein besseres Verständnis für Enterprise-Informationsarchitektur und die Grenzen agentischer Retrieval-Ansätze.

Für Entscheider:innen schließlich ist Foundry IQ ein strategisches Signal: Microsoft positioniert Agenten und die IQ-Ebene als neue Plattform-Schicht für Unternehmens-IT. Wer stark auf Microsoft 365, Azure und Fabric setzt, sollte sich frühzeitig mit Foundry IQ auseinandersetzen, Pilotprojekte definieren und Kompetenzen in diesem Bereich aufbauen. Organisationen mit multi- oder hybriden Cloud-Strategien werden sorgfältig bewerten müssen, wo Foundry IQ das passende Werkzeug ist – und wo alternative oder ergänzende Ansätze besser geeignet sind.

Klar ist: Foundry IQ wird die Diskussion um RAG, Agenten und Wissensmanagement in den kommenden Jahren wesentlich mitprägen. Wer heute in Weiterbildung investiert und das Konzept von Foundry IQ versteht, schafft eine solide Grundlage für tragfähige KI-Architekturen im Enterprise-Umfeld.

Autor

Michael Deinhard

Artikel erstellt: 30.11.2025
Artikel aktualisiert: 02.12.2025

zurück zur Übersicht