Przejdź do treści

Redakcja i społeczność ludzi, którzy budują z AI

← Wszystkie artykuły

Aktualność · Google DeepMind · 2 min czytania

Data wydarzenia: · Opublikowano:

Google DeepMind uruchamia benchmark Multimodal Knowledge Agent

Google DeepMind i Artificial Analysis zaprezentowały benchmark Multimodal Knowledge Agent 10 listopada 2026 roku, testujący agentów AI w wizualnych, wielogodzinnych zadaniach zawodowych.

Google DeepMind, we współpracy z Artificial Analysis, zaprezentowało benchmark Multimodal Knowledge Agent (MKA) 10 listopada 2026 roku. MKA sprawdza, jak agenci AI rozumują na podstawie wizualnie złożonych plików, aby wykonać rzeczywiste zadania z pracy wiedzy, a w pierwszych testach Gemini 4 Carbon zajął drugie miejsce pod względem jakości wśród testowanych modeli, kosztując przy tym średnio sześć razy mniej niż model z najwyższym wynikiem.

Co obejmuje benchmark

  • Benchmark obejmuje 200 prywatnych zadań ewaluacyjnych, a 10 publicznych zadań zostało udostępnionych na Hugging Face
  • Zadania obejmują 10 branż i 83 zawody, w tym architektów, biologów, underwriterów i analityków danych
  • Każde zadanie odpowiada 3 do 8 godzinom pracy zawodowej
  • Ocena jest ważona w 75% dokładnością faktograficzną i w 25% jakością wizualną, a ocenia ją automatyczny system oceniający, który zgadza się z ocenami ekspertów ludzkich w 96% przypadków
  • Testowane modele wykorzystywały średnio od 30 do 130 tur za pomocą otwartoźródłowego środowiska agentowego Stirrup

Co to oznacza dla twórców AI

Dla osób budujących agentowe potoki kodowania i pracy wiedzy, MKA dodaje nową miarę wykraczającą poza rankingi oparte tylko na tekście, skoncentrowaną na wizualnych, wielogodzinnych zadaniach zawodowych. Wynik, w którym Gemini 4 Carbon zajął drugie miejsce pod względem jakości, kosztując sześć razy mniej niż model z najwyższym wynikiem, daje twórcom konkretny kompromis między kosztem a jakością do rozważenia przy wyborze modelu dla agentów, które muszą odczytywać wizualnie złożone pliki i tworzyć wyniki na poziomie zawodowym.

Dostępność

10 publicznych zadań MKA jest dostępnych na Hugging Face, a środowisko oceniające użyte do testowania modeli, Stirrup, jest otwartoźródłowe, dzięki czemu programiści mogą sprawdzić format zadań oraz pętlę agenta używaną do oceny dokładności faktograficznej i jakości wizualnej.


Źródła

Tekst przygotowany z pomocą AI wyłącznie na podstawie źródeł wymienionych powyżej. Zanim trafił na stronę, przeszedł automatyczną kontrolę dat, źródeł i wszystkich wersji językowych.

Google DeepMind uruchamia benchmark Multimodal Knowledge Agent | vibecoding.pl