Kritik an OpenAI: Experten warnen vor verkürzten Sicherheitstests

Weniger Assessments könnten die Modellintegrität beeinträchtigen

„Die Verkürzung der Zeit für Sicherheitstests könnte die Qualität des Startmodells erheblich beeinträchtigen“, mahnen Experten. „Wenn es Fälle von Halluzinationen oder Schäden aufgrund von Modellausgaben gibt, wird OpenAI das Vertrauen der Menschen verlieren und damit zurecht kommen müssen, dass die Einführung strauchelt“, betont Jain.

“Das kann auf die Verkürzung der Testzeit zurückgeführt werden. OpenAI hat bereits ein Imageproblem, weil es von einem gemeinnützigen zu einem gewinnorientierten Unternehmen geworden ist. Jeder Vorfall kann das angeschlagene Picture weiter schädigen, dass sie aus Profitgründen auf angemessene Assessments verzichten“, fügt der Parekh Consulting-Analyst hinzu.

Eine der Quellen bezeichnete die Verkürzung der Testzeit als „leichtsinnig“ und als „Rezept für eine Katastrophe“. Eine andere Individual, die an den GPT-4-Assessments beteiligt battle, sagte, dass einige mögliche Gefahren erst zwei Monate nach Beginn der Assessments entdeckt wurden.