Как добавить кнопку удаления в форму PHP, которая будет удалять строку из таблицы MySQL

Обязательно необходимо передать переменную в ссылку на удаление. Вы можете передать переменную (?php echo $contact['name']; ?) в скрытом поле или передать ее в URL-адресе.

Шаг 1
Замените исходный код:

        <td class="contact-delete">
                <form action='delete.php' method="post">
                        <input type="hidden" name="name" value="">
                        <input type="submit" name="submit" value="Delete">
                </form>
        </td>

Шаг 2
С помощью следующего кода:

        <td class="contact-delete">
                <form action='delete.php?name="<?php echo $contact['name']; ?>"' method="post">
                        <input type="hidden" name="name" value="<?php echo $contact['name']; ?>">
                        <input type="submit" name="submit" value="Delete">
                </form>
        </td>