malo je zbunjujuce al pitacu jos jednom
imam sajt na example.com
forum imam na example.com/forum
i podesen forum.example.com koji vodi na example.com/forum
ali ja ne zelim da posetiocima u pretrazivacu pise example.com/forum vec forum.example.com
gde to mogu da podesim?

Ako je domen dobro setovan, samo u forumu u administraciji u server settings upisi da je adresa foruma forum.example.com a ispod da je direktorijum (posto se trazi lokal) npr /var/www/vhosts/example/httpdocs/smf (verovatno je u drugacijoj formi na drugom serveru, ali nije ni bitno ako ti forum radi to je i onako ispravno).

znam za to linkovi u smf-u su ok oni se generisu kako treba
i npr kada idem na naslovnu stranu http://forum.example.com/index.php
cim nliknem na taj link u adresnoj liniji u prertrazivacu napise http://example.com/forum/index.php (a ja zelim daa i tu pise http://forum.example.com/index.php)

Postoje samo 2 opcije:
1. U forumu nije upisano umesto example.com/forum da je adresa forum.example.com
2. Subdomain nije podesen kako valja vec je obicna redirekcija koja nicemu ne sluzi.

Ako prvo nije... onda ti ne preostaje nista drugo nego da pitas support svog hosting providera da ti resi problem jer ja da pogodim kako to na nekom desetom serveru funkcionise ne mogu...
Mada moze lako biti to prvo problem, jer da nije mislim da ne bi mogao da se ulogujes u forum ako bi adresa kukija i stvarna foruma bila razlicita...

ovo pod 2. je sad cu da kontaktiram provajdera

A mozda si ranije koristio /forum pa je pretrazivac to tako ubacio kod njega u bazu i tako je i ostalo... ali vremenom ako budes koristio samo subdomen, onda ce on izbaciti /forum i ostace samo subdomen...