Yoshimitsu Yamada nació el 17 de febrero de 1938 en Tokio. Su padre, Ichiro, fue profesor académico y su madre, Michio, se ocupaba de la casa. La familia del padre era pariente de la familia Abe y cuando siendo niño, Ichiro perdió a sus padres, los Abe lo adoptaron.
La difícil situación de Japón durante la Segunda Guerra Mundial obligó a ambas familias a emigrar a Corea en los años cuarenta y se instalaron en Chinju, una pequeña ciudad a unas 200 millas de Seúl. La cabeza de la familia, Kazo, alquilaba tierras y tenía su propio negocio, e Ichiro Yamada se dedicó a los negocios de minería. Se quedaron en Corea hasta el fin de la guerra.
Tadashi Abe, primo de Ichiro Yamada, practicaba aikido desde 1942. Esta coincidencia indudablemente afectó la vida de Yoshimitsu. Con solamente unos pocos años, Yoshimitsu había tenido contacto con O’Sensei antes de que se fueran a Corea, en una presentación de artes marciales en la casa de la famlia Abe. Este encuentro le dejó una impresión inolvidable. Él recuerda, como si fuera hoy, que el agradable, tranquilo hombre mayor, que es como parecía O’Sensei a primera vista, se convirtiera en alguien totalmente diferente sobre el tatami, un inasible y misterioso maestro de artes marciales.
Probablemente está reunión influenció la decisión de Yoshimitsu de dieciocho años, quien en 1955 decidió unirse a Hombu dojo como uchi-deshi. Esto pudo ser gracias a la recomendación de Tadashi Abe, ya que el joven aspirante no había entrenado nunca en artes marciales. Su primer día como uchi-deshi fue también su primer día sobre el tatami. Enseguida se hizo amigo de sus sempais Nabuyoshi Tamura y Sadateru Arikawa.
En esos tiempos Hombu Dojo era un lugar completamente distinto a hoy en día. La casa de la familia Ueshiba era parte del dojo, y Morihei, si bien irregularmente pero con mucha frecuencia, aparecía en el tatami. O’Sensei representó una autoridad sin igual para todos los uchi-deshis. Con su comportamiento representaba todas las cualidades por las que un joven japonés se esforzaba en esos tiempos.
Los entrenamientos eran exigentes y la vida en el dojo de una naturaleza casi ascética. Esto era debido a la difícil situación económica del páís después de la Segunda Guerra Mundial. Hombu Dojo no se destacaba particularmente del nivel de vida general de Japón. El edificio no tenía calefacción así que la temperatura en invierno descendía bajo cero grados, en verano el calor en general golpeaba. Los deshi no tenían un área de habitaciones ni demasiadas cosas personales, su vida estaba sujeta al ritmo de la vida del dojo y eran raros los momentos de privacidad. Cada uchi-deshi tenía que hacer ciertas tareas y participar en las clases privadas. Yoshimitsu Yamada aún hoy recuerda el horario. El primer entenamiento, dirigido por Kishomaru Ueshiba, empezaba a las 6:30, luego había otro a las 8:00 por Koichi Tohei o Kisaburo Osawa, quien una vez por semana era reemplazado por Kenji Tomiki. Hiroshi Tada o Seigo Yamaguchi daban la clase de las 15:00 y las clases de las 16:00 y 18:30 estaban dictadas por diferentes profesores. Koichi Tohei era un ídolo para muchos practicantes, que se impresionaban con su carácter y con sus habilidades técnicas. Muchos uchi-deshi lamentaban que cada vez se involucrara más con el manejo de la escuela en Hawai y que raramente fuera a Tokyo. Con el tiempo, el grupo de estudiantes creciendo con Yasuo Kabayashi, Kazuo Chiba, Mitsunari Kanai y Seichi Sugano quienes junto con Yoshimitsu Yamada, formaron un grupo de amigos muy unido.
