La diferencia fundamental se puede explicar con el siguiente ejemplo: 

 

En un lenguaje de alto nivel sólo tengo que poner sqt(x), que sería una función predeterminada, calcular el cuadrado de x. 

   Si fuera de bajo nivel, yo mismo tendría que crear la función sabiendo cómo funciona el cuadrado de un número: 

       

 cuadrado(x) = x * x 

   Como vemos para aprender a programar con un lenguaje de alto nivel debemos conocer el propio lenguaje que utiliza y todos sus comandos, en el ejemplo saber que sqt realiza el cuadrado de un número. 
   Para no extendernos mucho en esto que es bastante amplio, pasaremos a explicaros algunos de los lenguajes de programación más usados en las máquinas que más utilizamos.