"Машинно обучение става навсякъде и се използва за приложения с по-сериозни последици, има нужда от хора да се разбере как го прави прогнози така те ще се доверите когато се прави повече от генерирането на реклама,", казва Джонатан СУ, член на техническия персонал в MIT Линкълн лаборатория информатика и решение подкрепа група.
В момента изследователите използвате post hoc техники или interpretable модел като решение на дърво да обясни как Черно кутия модел достига до неговото сключване. С post hoc техники изследователи спазват алгоритъм входове и изходи и след това се опитайте да се изгради на приблизителна обяснение за случилото се в черното каре. Въпросът с този метод е, че изследователите може само да гадаем по вътрешната изработки и обясненията често може да бъде погрешно. Решение дървета, които карта избор и техните потенциални последствия в дърво, като строителството, работи добре за категорични данни, чиито функции са смислени, но тези дървета не са интерпретирани във важни области, като визия компютър и други комплекс данни проблеми.
Невронни мрежа е изчислителна система съставена от множество взаимосвързани обработка елементи. Тези мрежи обикновено се използват за изображението анализ и Обектово разпознаване. Например, един алгоритъм може да се научи да разпознава дали снимка включва куче като първо се показват снимки на кучета. Изследователите казват проблемът с тези невронни мрежи е, че техните функции са нелинейни и рекурсивни, както и сложно и объркващо за хората и крайният резултат е, че е трудно да се посочи какво точно мрежата е определил като "dogness" в рамките на снимките и това, което довело до това заключение.
За да разреши този проблем, екипът се развива това, което той нарича "прототип невронни мрежи." Те са различни от традиционните невронни мрежи, че те естествено кодират обяснения за всяка от своите прогнози чрез създаване на прототипи, които са особено представителните части на входно изображение. Тези мрежи, правят им прогнози, базирани на сходството на части на входното изображение за всеки прототип.
Друга област, на изследователския екип е разследване е BRLs, които са по сложни, едностранно решение дървета, които са подходящи за таблични данни и често толкова точни, колкото други модели. BRLs са направени от поредица от условно отчети, които естествено образуват interpretable модел. Например ако кръвното налягане е високо, тогава рискът от сърдечно заболяване е високо. Су и колеги използват свойства на BRLs да разрешите на потребителите да показват кои компоненти са важни за прогнозиране. Те също се развиват интерактивни BRLs, които могат да се адаптират незабавно при нови данни пристигат вместо преизчислени от нулата на все по-нарастващата dataset.
Су обяснява: "ние сме с надеждата да се изгради нова стратегическа възможност за лабораторията-машинно обучение алгоритми, които хората доверие, защото те ги разбират."





