wie wärs einfach mit email bzw jabber? das kann man entsprechend konfigurieren.
wenns was eigenes sein soll musst du, wie saibot521_2 schchon ausgeführt hat, die login daten "hashen", also so abspeichern das man die wirklichen daten nicht nachvollziehen kann (einwegverfahren), "peffer" und "salz" spielen dabei ne wichtige rolle. nen guter (wenn nicht der beste) algo dafür ist bcrypt (auch unter php verfügbar).
wenn du die nachrichten an sich auch verschlüsseln willst geht dafür kein einwegalgo (is ja auch logisch... ^^). dafür bieten sich public/private key verfahren an (rsa?!)
das alles müsste für php schon implemtntiert sein.
wenn dus einfacher willst nimm rails (ruby), insbesondere ajax ist da viel stressfreier
hf