解:连接OD、OE,∵⊙O与△ABC中AB、AC的延长线及BC边相切,∴AF=AD,BE=BF,CE=CD,OD⊥AD,OE⊥BC,∵∠ACB=90°,∴四边形ODCE是正方形,设OD=r,则CD=CE=r,∵BC=3,∴BE=BF=3-r,∵AB=5,AC=4,∴AF=AB+BF=5+3-r,AD=AC+CD=4+r,∴5+3-r=4+r,r=2,则⊙O的半径是2.故答案为:2.
圆与AB的切点为D,与BC的切点为E,延长OE交AB于F。设半径为R,三角形DOF与ABC和BEF相似,BD=BE,BE=3-R,EF=5R/3-R=2R/3。BE:EF=(3-R):(2R/3)=3:42R=12-4R6R=12R=2。