Wie intelligent sind ChatGPT & Co?

Die folgende Unterhaltung habe ich so ähnlich schon mehrfach geführt:
Ich frage eine Person: „Sollten Menschen einander mit Respekt begegnen?“
Antwort: „Ja“
Ich: „Was ist Ihre Definition von Respekt?“
Antwort: „Da können wir ChatGPT fragen, das ist sehr intelligent.“
ChatGPT (immer Original-Antworten): „Respekt ist die wertschätzende Haltung, bei der die Würde, Rechte und Meinungen anderer Personen anerkannt und im eigenen Verhalten rücksichtsvoll berücksichtigt werden.“
Ich: „Da kommt das Wort wertschätzend vor. Wie wird das definiert?“
ChatGPT: „Eine wertschätzende Haltung ist die grundsätzliche innere Einstellung, bei der man anderen Menschen mit Anerkennung, Respekt und positivem Interesse begegnet – unabhängig von deren Herkunft, Meinung, Aussehen oder sozialem Status.“
Ich: „Ist das nicht zirkulär definiert? Respekt wird mit Wertschätzung erklärt und Wertschätzung mit Respekt.“
ChatGPT: „Das ist tatsächlich eine zirkuläre Abhängigkeit, wenn man es streng nimmt. … Wir können die Definitionen so umformulieren, dass sie nicht zirkulär sind.“ (ChatGPT entfernt das Wort wertschätzend aus der Definition von Respekt, ansonsten bleibt inhaltlich alles gleich.)
Ich frage die Person: „Wollen Sie nicht an einer Veranstaltung teilnehmen, die erklärt wie Wörter definiert werden und warum ChatGPT & Co das nicht so gut können?“
Antwort: „Ich habe im Moment leider gar keine Zeit. Reden Sie doch mit einem KI-Experten.“
Okay, ich frage einen KI-Experten: „Wie intelligent sind ChatGPT & Co?“
Antwort des KI-Experten: „Da müssten wir über die Definition von Intelligenz reden. Sollen wir das wirklich tun?“
Ich: „Oh, entschuldigen Sie, dass ich gefragt habe.“

In der Veranstaltung sollen die folgenden Thesen diskutiert werden: Definitionen sind "konzentrierte" Texte, weil sie in einem Satz beschreiben müssen, wie ein Wort verwendet wird. An ihnen lässt sich erkennen, wie intelligent ein Mensch/eine KI ist.