Fue pionero de los derechos civiles lideró la lucha para eliminar la segregación de las bibliotecas y las asociaciones estatales, fundó el Black Caucus. Durante su liderazgo como director de la Asociación Americana de Bibliotecas (ALA), luchó contra dos sistemas de racismo institucionalizado mediante la democratización de la bibliotecología: la segregación en los Estados Unidos y el apartheid en Sudáfrica.

E. J. Josey alcanzó la prominencia en la profesión bibliotecaria al desafiar a la Asociación Americana de Bibliotecas (ALA) a cumplir con su credo de igualdad para todos. Esto no fue fácil durante los años 50 y 60, durante la segregación. A través de entrevistas con Josey y sus contemporáneos, así como de varias fuentes archivísticas, particularmente dentro de las corrientes raciales de hoy en día. Durante su carrera profesional, que abarca más de cincuenta años (1952-2002), Josey trabajó como bibliotecario (1953-1966), administrador de servicios bibliotecarios (1966-1986) y profesor de biblioteconomía (1986-1995). También fue Presidente de la Asociación Americana de Bibliotecas y, tal vez su logro más notable, elaboró con éxito una resolución que impedía a las asociaciones estatales de bibliotecas discriminar a los bibliotecarios afroamericanos. Esto puso fin esencialmente a la segregación en la ALA. El liderazgo transformador de Josey proporciona un modelo para abordar los desafíos actuales en materia de derechos civiles tanto dentro como fuera de la profesión bibliotecaria.

Josey fue el Presidente de ALA en 1984-85. En su discurso inaugural en 1984, Josey hizo este comentario progresista que aún se aplica a las bibliotecas hoy en día:

«La industria de la información tiene la tecnología para controlar la información, pero su precio en la distribución de la información y su objetivo de beneficio crean un sesgo en qué información se hace disponible y cómo se dispensa. Sólo la organización sin fines de lucro, la biblioteca, dedicada a un objetivo de servicio comunitario total con expertos capacitados, los bibliotecarios, que dirigen la operación pueden proporcionar todo el alcance de la información para toda la población de manera justa y objetiva».

La Declaración de Derechos de la Biblioteca de la ALA, adoptada en 1939, defendía que «el derecho de una persona a utilizar una biblioteca no debe ser negado o reducido por motivos de origen, edad, antecedentes u opiniones». Desafortunadamente, estos valores no siempre fueron practicados por los bibliotecarios o los miembros de la asociación. Sin embargo, la ALA acogió a los miembros negros y nunca fue una organización segregada.

La segregación se convirtió en un tema «real» para ALA en 1936, cuando la conferencia anual se celebró por primera vez en el Sur. En la Reunión Anual de ALA de 1936 en Richmond, VA, los bibliotecarios negros recibieron invitaciones del Richmond Local Arrangements Committee para asistir a la conferencia. Sin embargo, no se comunicó que los participantes soportarían condiciones de segregación. A los afroamericanos no se les permitía el acceso a las salas de conferencias o a las reuniones celebradas en los comedores junto con las comidas. A los miembros negros de la Asociación se les asignaron asientos reservados en una zona designada del salón de reuniones, lo que limitó su participación. Debido a las protestas de los delegados y las asociaciones estatales, la junta ejecutiva nombró un comité para formular una política que garantizara que esta discriminación no volviera a producirse. Como resultado, se colocaron carteles en las reuniones futuras «que en todas las salas y pabellones asignados a la Asociación para su uso en relación con su conferencia, o de otro modo bajo su control, todos los miembros serán admitidos en condiciones de plena equidad».

Los bibliotecarios afroamericanos también se enfrentaron a la discriminación que les negaba la pertenencia a las asociaciones de bibliotecas del sur. Virginia Lacy Jones, ex Decana de la Escuela de Servicios Bibliotecarios de la Universidad de Atlanta, y Josey fueron rechazadas por la Asociación de Bibliotecas de Georgia. Es probable que este rechazo impulsara su incorporación a la Asociación en los decenios venideros. No fue sino hasta 1965, después de que Josey protestara contra las asociaciones de bibliotecas estatales del sur, que se le permitió ser miembro, convirtiéndose en el primer bibliotecario afroamericano de la Asociación de Bibliotecas de Georgia.