Аnthropic признает, что вероятность злоупотребления этими технологиями относительно невелика, но она не исключена полностью. Генеральный директор компании Дарио Амодей ранее уже выражал опасения по поводу рисков, связанных с развитием ИИ, включая возможность массовых атак. Компания подчеркивает, что новые модели ИИ обучаются с использованием тех же методов, что и предыдущие версии, которые не привели к значительным инцидентам.

Anthropic считает, что с ростом возможностей искусственного интеллекта, необходимо усилить контроль и внедрить более продуманные механизмы управления для минимизации возможных рисков.