Oops, Should’ve Thought of That - Jim Nielsen’s Blog
If they did something unexpected (a.k.a. a bug), it was because you failed to 1) anticipate it could happen, or 2) specify with greater detail that it shouldn’t happen.
J'aurais envie de dire qu'avec un LLM c'est à peu près la même chose. Sauf que la tentation est très forte de ne rien préciser du tout.
There’s going to be a lot more “Oops, I didn’t mean to do that” in the future.
Vrai. Cela m'arrive déjà souvent sur les projets où je lache plus la bride.
Meanwhile, a hobbyist or amateur doesn’t even have the capability or experience to understand the assumed intent of an LLM until it’s too late and users have been affected.
Et jusqu'à ce qu'il y ait un vrai pépin, aucun moyen de sentir venir le problème.
Software we use everyday, software that many aspects of our lives increasingly depend on, needs less unintended consequences. Less “Oops, should’ve thought of that.”
Ça se ressent déjà, à moins que ça ne soit un biais de confirmation.
Extraits cités issus de ce lien visité le , crédits: Jim Nielsen