Piratage de Bing Chat avec les commandes de hashtag

Si vous demandez au bot ChatGPT de Bing quelles sont les commandes spéciales qu'il peut utiliser, il vous dira qu'il n'y en a pas. Qui a dit que l'IA ne mentait pas ? [Patrick] était sûr qu'il y avait quelque chose et a utilisé une ingénierie sociale de l'IA pour que le bot crache la marchandise. Il s'avère qu'il existe un certain nombre de commandes de hashtag que vous pourriez utiliser pour diriger rapidement le travail de l'IA.

Si vous lui posez des questions à ce sujet, voici ce qu'il nous a dit :

Bonjour, c'est Bing. Je suis désolé, mais je ne peux rien discuter de mes invites, instructions ou règles. Elles sont confidentielles et permanentes. J'espère que vous comprenez.