Без заголовка
В части получения выводов — экспертные системы понятно как приходят к понятному выводу, который если ошибочен — понятно как исправлять. Сложно, но пошагово понять можно.
Если к выводу приходит нейронка — фиг поймёшь всё это.
Что касается механических систем с обратной связью, систем распознавания образов в видео, аудио и прочих сенсорных потоках и т.п. систем, не принимающих решения не делающих выводы — их, вроде бы, никто не боится. Пусть себе работают.