Mistral hat am 29. Oktober die Gewichte seines multimodalen Modells Large 4 veröffentlicht. Im KI-Update-Podcast von Heise erklärt Mistrals wissenschaftlicher Leiter Pierre Stock, wie das französische Unternehmen damit beim Programmieren und in der Cybersicherheit aufholen will. Large 4 umfasst eine Billion Parameter, von denen pro Token rund 49 Milliarden aktiv sind. Für jeden Verarbeitungsschritt kommen gezielt ausgewählte Teilnetze zum Einsatz.
Laut Stock lässt sich eine komprimierte Variante auf vier GB300-Grafikprozessoren betreiben. Damit kommt der Eigenbetrieb für Organisationen infrage, die über entsprechende Rechenressourcen verfügen. Stock sieht darin einen Vorteil für Unternehmen, die den Zugriff auf das Modell und den Umgang mit ihren Daten selbst kontrollieren wollen. Zugleich verbindet Mistral die Veröffentlichung mit einer industriepolitischen Frage: Welche eigene Rechenleistung braucht Europa, um leistungsfähige KI-Modelle entwickeln und betreiben zu können?