レベルに何もないのにプレイするとオブジェクトが作成され動かせてしまう

ProjectSettingsにThirdPersonTemplateのGameModeが設定されていますか?
そうであれば、WorldSettingsでタイトル画面用のGameModeに上書きする必要があります

あるいは、DefaultPawnの自動生成を抑えるのみであれば、任意のPawnをLevel上に配置し、Player0にPossessしてください
Pawnに移動関連の処理が設定されていなければ、動くことはありません


DefaultPawn、PlayerController等は、Play時に必ず生成されます
これらはUE4のフレームワーク上無くてはならないものであり、これらの生成を止めるにはEngineを改造して仕組みそのものを変更する他ありません