значит надо будет список клиентов совместимых сделать (а заодно их на сайт сразу выложить + описания), а остальных - к чертям забанить!
Или как с InTS ICQ - сделать клиента (uTorrent как вариант - он вроде Free & Open + инсталла не хочет), настроенного на трекер. И нехай качают им или грамотно настраивают своих.