stop chatting and you should stady of math,because You are in danger of not being able to graduate.....lol
早くチャット止めて数学を勉強しないとあなた卒業が危なくなるかもしれないわよ
とあまりきつくない冗談ぽくいいたいのですが、この文だと少しきつい感じがするので他に良い言い方教えていただけるとありがたいです。お願いします。。

私だったらこんな感じ。
You’d better to stop chatting immediately and study math instead. Otherwise you might not be able to graduate your school.
　

Res1のhad better to doは、命令的な意味じゃなかったですか？should doやIt might be better for you to doを使ったほうがマイルドな気がしますが。あと、graduate from your schoolですね。

一例として。
Don’t waste your time by chatting here. Studying math is better. You need a diploma, right? 　

まず、had better を使う場合、better の後に to は入れません。 had better ＋ 動詞の原型　です。
それと、 had better は年下の人などに対して使う事が多いそうなので、
It might be better to stop chatting and study math....
の方がいいと思います。