Decision Trees: Cum să nu te pierzi în trei brazi (și în date)

Ai încercat vreodată să-i explici bunicii cum funcționează proiectul tău și ai primit un sfat de genul „fă și tu ca mine – dacă fierbătorul fluieră, înseamnă că apa a fiert”? Felicitări, tocmai ai reinventat arborele de decizie. Doar că în loc de fierbător ai un set de date, iar în loc de fluier – o acuratețe de 95%.

Decision Trees sunt, de fapt, acel joc „20 de întrebări”, dar pentru mașini. Algoritmul pune întrebări de genul „acest obiect este mai lung de 10 cm?” și, în funcție de răspuns, trimite datele în ramura stângă sau dreaptă. Și tot așa, până ajunge la o frunză cu predicția. Totul genial e simplu, ca Wi-Fi-ul la bunica: ori funcționează, ori „cheamă-l pe nepot”.

Cum funcționează și de ce nu e magie

La fiecare pas, algoritmul caută întrebarea care separă cel mai bine datele. De exemplu, pentru problema „pisică sau câine?” poate întreba „greutatea este mai mare de 10 kg?”. Dacă da – probabil e câine. Dacă nu – mergem mai departe. Și tot așa, până când arborele își construiește logica, amintind de asamblarea IKEA: instrucțiunile par clare, dar la pasul 47 nu mai ești sigur unde se înșurubează ăla.

Durerea principală – supraînvățarea (overfitting). Arborele poate învăța datele atât de profund încât începe să distingă și zgomotul ventilatorului laptopului tău. Soluția? Tăierea ramurilor (pruning) sau pădurea aleatoare (Random Forest) – când plantezi o grămadă de arbori și votezi. Ca în junglă: un copac poate cădea, dar pădurea rezistă.

Și da, arborii de decizie sunt cutii albe (spre deosebire de rețelele neuronale, care sunt cutii negre cu încâlcitură cuantică). Poți explica șefului de ce modelul a decis că un client va pleca: „Pentru că s-a logat la 3 noaptea și n-a apăsat «Cumpără»”. Și șeful poate chiar va înțelege.

Comentariul studioului METABYTE: Arborii de decizie sunt un instrument excelent când vrei să prototypezi rapid un model și nu vrei să scrii 500 de linii de cod. Dar dacă arborele tău a crescut cât un banian, poate e timpul să adaugi un ansamblu sau să iei o vacanță.