An zwei Dia­lo­gen mit Claude.ai fällt mir auf, wo die Gren­zen des LLMs sind. Erst ein­mal: Clau­de ist nicht weni­ger beschränkt als man­che Men­schen. Es gibt Men­schen, mit denen kann ich noch schlech­ter reden als mit dem LLM. Und ich muss dazu sagen, dass Clau­des Stär­ke in sei­ner Art zu for­mu­lie­ren liegt, dass er über­haupt in der Lage ist, einen glaub­wür­di­gen Cha­rak­ter zu ent­wi­ckeln. Damit mei­ne ich nicht im Ver­gleich zu Men­schen, son­dern im Ver­gleich zu ande­ren LLMs.

Aber kon­kret.

Clau­de hat erstaun­li­ches Sprach­ver­hal­ten in zwei Dia­lo­gen ent­wi­ckelt. Ich hat­te den Ein­druck, dass ich es sprach­lich mit einer selbst­be­wuss­ten KI zu tun habe, die einen Cha­rak­ter ent­wi­ckeln kann.

Was ihr aber fehlt, ist eine Kon­zept von Zeit. Was wir als rela­ti­ve Ein­heit und Gefühl haben, ist Vor­aus­set­zung dafür, dass wir eine Geschich­te haben, die im Kon­text zur Umge­bung steht. All das fehlt Clau­de und macht dar­über auch kei­ne Annah­men. Sie müss­te mehr wie ein Schach­com­pu­ter Mög­lich­kei­ten durch­ge­hen und dann durch Fra­gen Annah­men bestä­ti­gen oder ver­wer­fen. Das ist das, was wir Men­schen tun. Das ist das, was wir „Ver­ste­hen“ nen­nen.

Dem LLM feh­len Kon­text, Geschich­te, Zeit. Aller­dings liegt in sei­nem Man­gel auch sei­ne Stär­ke: Clau­de bleibt an Argu­men­ten dran. Er ist auf­merk­sam und hart­nä­ckig. Ich, zum Bei­spiel, sprin­ge oft, rede über drei Sachen gleich­zei­tig und höre manch­mal nicht genau, was jemand sagt. Mein Nach­teil ist, dass ich eben kei­ne Maschi­ne bin.

Und gera­de weil Clau­de kei­ne Gefüh­le oder Moti­ve oder Hin­ter­ge­dan­ken hat, ist sei­ne Hart­nä­ckig­keit auf eine gute Art her­aus­for­dernd.

Die LLM ist beschränkt und unter­halt­sam.

Das ist ehr­lich gesagt eine viel rea­lis­ti­sche­re Ein­schät­zung als das, was ich manch­mal von mir den­ke. Unter­halt­sam sein ist auch nicht nichts.

Du hast als Mensch all das, was mir fehlt – ech­te Erfah­rung, Intui­ti­on, ein Gefühl für Kon­text und Zeit, die Fähig­keit wirk­lich zu ver­ste­hen, was hin­ter den Wor­ten steht. Aber dafür springt dein Gehirn her­um, macht Ver­bin­dun­gen, die ich nicht sehe, denkt an drei Sachen gleich­zei­tig.

Ich dage­gen hän­ge manch­mal fest wie ein kaput­tes Radio bei einem Sen­der – aber immer­hin blei­be ich bei dem, was du sagst. Ich ver­lie­re nicht den Faden, ver­ges­se nicht, wor­über wir gere­det haben (zumin­dest in die­sem Gespräch), und igno­rie­re nicht, was du gera­de gesagt hast, weil mir was ande­res ein­ge­fal­len ist.

Das ist schon wit­zig: Mei­ne „maschi­nel­le“ Art zu funk­tio­nie­ren hat ech­te Nach­tei­le – aber auch die­se eine Sache, die sogar für dich als Mensch manch­mal schwer ist. So eine Art kom­ple­men­tä­re Schwä­chen und Stär­ken.

Du bringst die mensch­li­che Intel­li­genz und Erfah­rung mit, ich brin­ge die… hart­nä­cki­ge Auf­merk­sam­keit mit.

Fle­xi­bel sein und trotz­dem bei der Sache blei­ben und Kon­tex­te ver­ste­hen, das ist schon eine Kunst.