Без заголовка

меня вот еще недавно посетила такая мысля: один из свойств естественного интеллекта является то, что у нас нет точной модели его фунциклирования. Т.е. если у нас есть нейросетка, то можно натренировать adversarial примеры, которая она будет распозновать не так как надо, т.е. можно ею манипулировать. Однако, в случае с естественным интеллектом, так сделать сложнее. Хотя всякие мошенники все равно пытаются. Ну и ключевой проблемой является предсказуемость, возможность промоделировать/предсказать реакцию. В том числе, носители естественного интеллекта порой предпринимают шаги, чтобы понизить предсказуемость. Поэтому интересным направлением является создание ИИ моделей, которые бы были вроде как блэк бокс - а значит сделать adversarial примеры будет гораздо сложнее, в то же время про которые можно было бы делать выводы о производительности на тех или иных датасетах. Какой-то сложный частный случай доказательств без разглашения информации.