Ha a szövegeket előállító mesterséges intelligenciának megtanítják, hogy magyarázza el a döntéseit, és hivatkozzon a döntést megalapozó tényekre, jobban megértjük a modellek viselkedését. Ez utóbbi, „fekete doboz” jellege miatt érik támadások az MI-t és a fejlesztőcégeket.