Заокеанская Anthropic всё-таки разобралась, почему ИИ иногда порой несёт словестную пургу, оказалось, что всё очень просто: он учится на Интернете, а там частенько можно прочитать такую пошлятину, что волосы становятся дыбом, и если его специально провоцировать, то он может тупо сломаться и в сердцах наговорить лишнего. И вот как с этой проблемой умные люди борются? Во-первых, они постоянно проверяют ответы Нейросетей и корректируют их, во-вторых, тестировщики специально пытаются его сломать, чтобы найти слабые места и затем починить их и в третьих, копаются в его недоделанных мозгах. Всё эти методы борьбы с ИИ необходимы, считают специалисты из Anthropic, потому что, чем он умнее, тем больше вреда может принести, в связи с чем, разработчики пытаются сделать так, чтобы он был не только умным, но ещё и безопасным.