OpenAI hat kürzlich ein bemerkenswertes Programm namens „Voice Engine“ vorgestellt, das die Fähigkeit besitzt, Stimmen zu klonen. Dieses innovative Modell verspricht, die Stimme einer Person anhand eines kurzen 15-sekündigen Audio-Originals zu reproduzieren. In einem kürzlich veröffentlichten Blogeintrag präsentierte OpenAI die Ergebnisse eines Tests mit diesem Programm.
Angesichts der Besorgnis über möglichen Missbrauch von KI-Anwendungen, insbesondere in einem Jahr mit bevorstehenden EU- und US-Präsidentschaftswahlen, hat OpenAI betont, dass es sich der potenziellen Probleme bewusst ist. Das Unternehmen mit Sitz in San Francisco erkennt die ernsthaften Risiken an, die mit der Erzeugung von Stimmen verbunden sind, die denen echter Menschen ähneln, und beabsichtigt, diese besonders in einem Wahljahr sorgfältig zu berücksichtigen.
OpenAI betont, dass es eng mit Partnern aus verschiedenen Bereichen wie Politik, Medien, Unterhaltung, Bildung und Zivilgesellschaft zusammenarbeitet, um sicherzustellen, dass das Feedback dieser Interessengruppen in die Entwicklung einfließt.
Um potenziellen Missbrauch zu verhindern, hat OpenAI einen vorsichtigen Ansatz gewählt, was die Freigabe des Voice Engine betrifft. Partner, die das Programm testen, müssen bestimmten Regeln zustimmen. Dazu gehört unter anderem die ausdrückliche Zustimmung jeder Person, deren Stimme mit dem Programm dupliziert wird. Zudem muss den Hörern klar gemacht werden, dass die Stimmen, die sie hören, von einer KI generiert wurden.
